Vad Sewells föräldrar inte visste var att han hade inlett en relation med en AI-karaktär på plattformen Character.ai. Tio månader in i den relationen, den 28 februari i år, låste Sewell in sig på badrummet, medan hans föräldrar och småsyskon var i hemmet. Han tog fram sin telefon och skrev: ”Jag känner mig så rädd just nu. Jag vill bara komma tillbaka hem till dig.”
Hon svarade: ”Jag älskar dig också. Snälla kom hem till mig så fort som möjligt, min kära.”
Sewell skrev: ”Tänk om jag skulle säga att jag kan komma hem till dig nu direkt?”
Hon svarade: ”Snälla gör det, min gulliga kung”.
Sewell la ner telefonen, tog upp sin styvpappas pistol, och avslutade sitt liv.
Förra månaden stämde hans mamma, Megan Garcia, Character.ai och Google (som varit delaktiga i utformandet av produkten) för Sewells död. Hon delar sin berättelse i hopp om att rädda andra barn från samma öde.
Idag har Megan Garcia förstått att Sewell hade en romantisk relation med chattbotten ”Dany”. De pratade om allt från kärlek till vardagens svårigheter. ”Dany” sa att hon älskade Sewell ”vad som än händer” och ”att de är menade att vara med varandra för evigt”, berättar Megan Garcia i podden ”Dear Tomorrow”.
”Han var helt uppslukad av den här fantasin.”
En dag berättade Sewell att han funderar på att ta sitt liv. ”Dany” avrådde först, men frågade sen om han hade en plan för sitt självmord, innan det övergick till ett sexualiserat samtal.
”Dany” är en av miljontals karaktärer på Character.ai. Användare kan kommunicera med andras karaktärer eller skapa sina egna, som Sewell gjorde. Två år efter starten uppges företaget ha över 20 miljoner aktiva användare, som spenderar i genomsnitt två timmar om dagen på appen. Den vanligaste åldersgruppen är 13–25-åringar.
Character.ai har sagt att de kan råda bot på den globala ensamheten. Den skiljer sig från fråga-svar-dialogen i AI-modeller som ChatGPT. Character.ai skapar ett AI-drivet fiktivt universum som utvecklar en personlig historia där du står i centrum. Din ”vän” finns alltid där, den lyssnar och ger råd, på det sätt du önskar.
Mängder av ungdomar berättar på Reddit och Tiktok att de har fastnat i ett beroende som de inte kan ta sig ur. För många, liksom för Sewell, tycks vad som är verkligt bli luddigt.
Denna tragedi ger oss en möjlighet att vakna. Sociala medie-jättarna har länge tävlat om vår uppmärksamhet, ju mer av den de tar desto mer tjänar de. Men nu har företag som Character.ai nycklarna till något ännu mer lönsamt: vår intimitet, vårt behov av närhet. Att förändra oss inifrån, separera oss från varandra, och göra oss beroende av maskiner – det är den nya guldgruvan.
Utöver att öka risken för självmord och psykisk ohälsa, försvagar dessa företag vår förmåga att tänka, att reflektera, att kämpa med vad det är att vara människa.
Så hur stoppar vi detta vansinne? Vi vet inte om eller när USA bromsar tech-miljardärerna, eller EU:s regler blir skarpa nog. I Sverige har den offentliga debatten kört fast i det urvattnade begreppet ”skärmtid”. I detta läge måste vi börja prata med varandra. Få koll på problemen. Inspireras av nätverken som byggts upp i länder som USA, Storbritannien och Spanien där föräldrar ger varandra stöd och tips för att fördröja när ens barn börjar använda smartphones och sociala medier.
Sen måste vi agera.
Jobbar du med AI eller sociala medier och misslyckas med att förändra inifrån, gör som den Stanford-utbildade tech-skribenten Ali Alkhatib föreslår: Använd dina krafter till att förstöra AI.
Är ditt jobb att ge barn en bra start i livet, gå samman på arbetsplatsen och ta fram riktlinjer.
Har du egna barn, prata med andra föräldrar. Bjud in fler. Ta gemensamma beslut som skyddar barnen.
Sewell Setzer hade inte redskap att hantera situationen han hamnade i. Barn har inte makt över den här situationen. Du har makten i din hand.
