Rasmus Fleischer: SVT-dokumentär med fejkade ansikten väcker etiska frågor

Har du sett dokumentärfilmen ”Välkommen till Tjetjenien” som finns på SVT Play? Om inte, se den! Av minst två skäl. Främst på grund av dess omskakande innehåll. Att vara homosexuell i Tjetjenien innebär som bekant en över­hängande risk att torteras eller mördas, av myndigheterna eller av den egna släkten – allt med godkännande av lilldiktatorn Kadyrov, tillsatt av stordiktatorn Putin.

Dokumentären följer en grupp modiga aktivister som hjälper HBTQ-personer att fly landet. 

För många av de berörda individerna skulle det dock innebära livsfara att synas på film. Regissören David France landade i en oortodox lösning. Med hjälp av avancerad mjukvara har de utsatta personernas ansikten bytts ut mot andra ansikten. Men ansiktsuttryck och manér har bibehållits. (I den begränsade mån som sådan mellanmänsklighet går att koda in i algoritmer.)

Tekniken brukar i andra sammanhang ofta betecknas som ”deep fake”. Den kan användas – och används redan – för att smutskasta oskyldiga människor, exempelvis genom att fejka in deras ansikte i porrfilmer. Tvivelsutan kommer propagandister och konspirationsteoretiker i allt högre grad att använda samma AI-teknik för att plantera lögner.

Därför kan jag känna mig kluven till hur dessa tekniker ska användas dokumentärt och hur sådana dokumentärer ska presenteras. I detta fall har SVT visserligen lagt in en kort ruta i början av filmen där det framgår att vissa ansikten är manipulerade, om än inte vilka eller hur. Man kan också betänka hur tidningar tolkar de pressetiska reglerna som att man självklart måste markera i varje enskilt fall då man visar en bild som manipulerats.

Även i en ny BBC-dokumentär om proteströrelsen i Hong Kong används samma typ av AI-anonymisering. Inte fel i sig. Men de etiska frågorna är flera. Människors ansiktsdrag kan läsas som kvinnliga eller manliga, de kan signalera olika härkomst, kan vara sminkade eller finniga. I vilken mån bör dokumentärfilmaren försöka att återge dessa egenheter när ansiktena ersätts av AI-genererade surrogat? 

Fotnot: Texten har redigerats. I en tidigare version påstods att det inte görs tydligt någonstans av SVT att vissa ansikten är utbytta genom datoranimationer i ”Välkommen till Tjetjenien”, vilket är fel. Vi ber om ursäkt!