Rasistisk AI-musik sprids på Spotify för att hetsa mot muslimer
Bild: Shutterstock (Montage)
Dagens ETC
Högerextrema krafter laddar för att demonstrera mot islam runt om i landet. Islam ska helt förbjudas. Alla muslimer deporteras från Europa. Det som skett de senaste två veckorna på gatorna i Storbritannien, försöker man ta till Sverige.
För att hetsa inför demonstrationerna har man börjat sprida AI-skapad rasistisk musik på internet. Som kompositör står ett namn identiskt med en välkänd, militant vit makt-profil.
När Dagens ETC börjar ställa frågor plockas musiken ner.
De tio spåren har samlats under kategorin ”islamkritisk musik”. Det är låtar i vilt olika genres som hårdrock, techno, rap och dansband. Men alla har grovt nedsättande textinnehåll mot muslimer, islam och invandrare i stort. Flera låtar reproducerar den högerextrema konspirationsteorin om det stora folkutbytet. Allt är uppenbart gjort med hjälp av AI, artificiell intelligens.
Den anonyma artisten kallar sig Anna Infidel och sprider musiken och hatiska inlägg på ett X-konto med samma alias. Hen presenterar sig där som ”islamkritisk memebyggare och låtskrivare”. På sociala medier-plattformen X har personen även en tydligt samordnande roll i att sprida information om de kommande muslimfientliga demonstrationerna som planeras i Sverige nu i augusti och september. Dagens ETC har granskat personerna bakom demonstrationerna i en stor separat artikel.
På X skriver Anna Infidel att hon behöver hjälp att sprida information om demonstrationerna då hon blivit avstängd från sina tre olika Facebook-konton på grund av ”islamkritiska memes”. Om de svenska demonstrationerna som hämtat inspiration från våldet och kaoset i Storbritannien skriver hon:
”Detta sker i precis rätt tid. Engelsmännen reser sig, i Belgien reser man sig, i Frankrike också men de blev dessvärre utmanövrerade. EU över lag har fått nog av islamiseringen och den okontrollerade immigrationen som medfört sådan katastrof var det än sker.”
Känd naziprofil
Artistens alias är ett uppenbart påhittat namn men som kompositör på både Spotify och Youtube står ett namn som är välkänt inom den nutida, organiserade och våldsamma nynazismen i Sverige.
När Dagens ETC ringer koranbrännaren Jade ”Korskvinnan” Sandberg, som sökt tillstånd för demonstrationen den 24 augusti i Stockholm, och frågar om personen bakom musiken är densamma som den högerextrema profilen, så vill Sandberg varken bekräfta eller dementera. Men låter märkbart nervös:
– Jag kan inte kommentera det. Jag kan återkomma till dig inom några dagar. Jag eller någon annan kontaktar dig, säger Jade Sandberg och avslutar samtalet.
En undervegetation av hat
Christer Mattsson forskar kring våldsutövande och rasistiska ideologier vid Segerstedtinstitutet i Göteborg. Han tycker att det är problematiskt att musik med ett så tydligt islamofobiskt innehåll kan läggas upp på Spotify.
– Det har stor betydelse om sånt här får spridning. Att det är islamofobiskt och rasistiskt är uppenbart. Det är en del av det som händer i Storbritannien just nu. Det har underblåsts av en sådan här undervegetation, som producerar hat dygnet runt på mängder av olika plattformar världen över.
Christer Mattsson har god förståelse av vad som uppfyller kriterierna för brottet hets mot folkgrupp. Han satt nämligen med i den statliga utredning som såg över revideringen av lagen som trädde i kraft den 1 juli 2024.
”Det är för vedervärdig musik”
Dagens ETC ber honom att lyssna på några av Anna Infidels AI-låtar för att uttala sig om innehållet skulle kunna vara brottsligt. Men Mattsson säger att det är för ”vedervärdigt rent konstnärligt” för att han ska orka med det.
När han får transkriberade texter så slår han fast att flera av dem kan utgöra brottet hets mot folkgrupp.
– I tre av låtarna finns anledning att tro att de skulle kunna fällas.
AI komplicerar hets mot folkgrupp
Men att låtarna är AI-genererade skulle kunna bli en komplicerande faktor.
– Är det den som har programmerat AI-låten eller den som distribuerar som begått brottet? I det senare fallet så blir det en tryckfrihetsfråga, förmodligen.
Christer Mattsson är även rådgivare till just Spotify och sitter i deras säkerhetsråd, som hanterar musik som är rasistisk, radikaliserande eller misogyn.
– Jag kan inte uttala mig för Spotify. Men de har en policy för detta så jag vågar säga med stor säkerhet att det här är ingenting som Spotify är intresserade av att ha på sin plattform. Men vi ska träffa rådet i New York i slutet av augusti. Jag kommer att ta detta fenomen som ett exempel. Förutom att det är bedrövligt är det väldigt intressant hur fort det går, inte minst med AI.
Musik har historiskt haft stor betydelse för spridningen av högerextrema ideologier.
– För de flesta svenskar som är över 35 år så är man väl förtrogen med vit makt-musiken och hur den påverkade Sverige under slutet på 80-talet, och hela 90-talet, långt ner i åldrarna. Och det var inte bara ett sätt att sprida musik utan också ett sätt att finansiera rörelsen.
Nazism ett återkommande problem
Tidningen Expo har vid flera tillfällen granskat hur nazistisk musik kunnat få spridning på Spotify, trots att plattformen har regler som inte tillåter innehåll som ”uppviglar till våld eller hat mot en grupp människor baserat på ras, religion eller etnicitet”.
När Dagens ETC kontaktar Spotify är de snabba på att ta bort Anna Infidels AI-skapade rasistiska låtar. De har då legat uppe mindre än en vecka och fått ett par hundra lyssningar.
”När vi identifierar denna typ av innehåll från tredje part, eller om det rapporterats av användare, vidtar vi lämpliga åtgärder. Kontexten är viktig och innehåll som inte uttryckligen uppviglar till våld eller hat mot skyddade grupper kan få finnas kvar. Vid närmare granskning bedömdes artisten uppfylla kriterierna för borttagning, och vi har har vidtagit åtgärder mot det aktuella innehållet” skriver en anonym Spotify-person till Dagens ETC.
Verifierad med bock trots rasism
Anna Infidel har på Spotify fått en grön bock för att hen blivit verifierad som artist. På Spotifys hemsida står det att en verifiering signalerar till lyssnarna att man är en seriös och äkta artist.
Men när Dagens ETC frågar hur det gått till när man verifierat den rasistiska artisten som nu blivit avstängd, så får vi svaret att verifieringen redan gjorts via en utomstående distributör som laddat upp musiken på flera olika streamingtjänster samtidigt.
”Artistprofilen skapas alltså inte på Spotify”, svarar de.
Den här konversationen modereras enligt ETC:s communityregler.
Läs reglerna innan du deltar i diskussionen.
Tänk på att hålla god ton och visa respekt för andra skribenter och berörda personer i artikeln. Olämpliga inlägg kommer att tas bort och ETC förbehåller sig rätten att använda kommentarer i redaktionellt innehåll.