I indisk politik är det redan vanligt att använda sådant innehåll för att främja egna kampanjer eller för att smutskasta politiska motståndare. Många befarar nu att tekniken kan få en negativ inverkan på demokratin eftersom deepfakes kan göra det mycket svårt för en vanlig väljare att skilja mellan information och desinformation. 

Översvämmas av oetiska uppdrag

30-åriga Divyendra Singh Jadoun driver en AI-startup vid namn The Indian Deepfaker. Han har tidigare arbetat med politiska kampanjer, bland annat genom att skapa personaliserade meddelanden av presidentkandidaters röster. De senaste månaderna har han dock blivit översvämmad av vad han benämner som ”oetiska” förfrågningar från politiska kampanjer. 

Som i november 2023 då ett val hölls i den sydindiska staten Telangana. Då tackade hans företag nej till mer än 50 uppdrag som handlade om att skapa ljud och video ägnat att smutskasta politiska motståndare – bland annat med hjälp av pornografiskt innehåll. 

Han fick också en förfrågan om att ändra en problematisk men autentisk video på uppdragsgivarens kandidat. För att hävda att deepfaken var äkta och originalet falskt. 

Ännu finns ingen officiell definition av deepfakes i indisk lag. Polisen har använt befintlig lagstiftning, som förtal, för att komma åt problemet. Den indiska regeringen har pressat techjättar som Google och Meta att moderera den här typen av innehåll på sina plattformar.