Tekniken är inte ny, men den har blivit allt mer verklighetstrogen och allt mer tillgänglig. Detta på bara ett par månader. Med hjälp av maskininlärning, som imiterar ansiktsmimik och rörelser kan en persons ansikte lätt placeras på en annan människas kropp.

Större tillgänglighet

Nu finns flertalet appar som gör att vem som helst kan skapa fejkade videor och de har blivit allt bättre. Det finns även teknik för att med hjälp av en inspelning av en persons röst, klona rösten och använda den till att säga saker personen aldrig sagt. Deepvoice har utvecklats av kinesiska techjätten Baido. För ett år sedan krävdes 30 minuters ljudinspelning för att göra ett trovärigt fejkat ljudklipp, nu krävs bara några sekunder.

Som nätfenomen dök det för första gången upp i slutet av förra året i nätforumet Reddit, där en användare med namnet ”deepfakes” började posta manipulerade porrfilmer där porrskådespelarnas ansikten ersatts av kända kvinnors ansikten. Därefter började fler att ta efter och snart följde nätsatiren. Ett populärt grepp har blivit att redigera in Nicolas Cages ansikte i andra kända filmer, till exempel ”Star wars” eller ”Sagan som ringen”.

Problem för människorättsgrupper

Människorättsgrupper har länge förlitat sig på bild och filmmaterial för att bevisa och utreda brott mot mänskligheten. I många fall kommer materialet från sociala medier och att detta material nu blir svårare att lita på skapar problem. Amnesty International har därför skapat ett nätverk kallat Digital verification corps, bestående av ett hundratal studenter på olika universitet runt om i världen, som ska identifiera falskt material.

– Vi måste kunna tala med förvissning om att saker som har hänt är fakta, säger Denis Krivosheev, deputy director på Amnestys Östeuropa- och Centralasien­avdelning, enligt Radio Free Europe/Radio Liberty.

PRENUMERERA PÅ ETC HELG

Den här artikeln kommer från veckans ETC Helg.
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.