Rasmus Fleischer: Bokus livsfarliga robotböcker om svampar

Minns du snacket om hur AI snart skulle överlista och i värst fall utrota mänskligheten? Det tog fart för ett halvår sedan med publiceringen av ett öppet brev, undertecknat av bland andra Max Tegmark, Elon Musk och flera höjdare inom AI-industrin. De fick genast mothugg av oss som menar att riskerna är av helt annat slag. Som att AI-modellerna tenderar att ta över och förstärka existerande mönster av diskriminering Eller den enorma resursförbrukningen. Idag är AI-diskussionen vettigare, om vi bortser från Max Tegmarks sommarprat där han även tog chansen att hyllade sin brors bisarra konspirationsteorier, vilket nyligen uppmärksammades av Flamman.

Det vi kallar för AI är inte fråga om ”intelligens” i egentlig mening, utan om stora statistiska språkmodeller. Dessa kommer knappast att ta kål på mänskligheten. Men visst kan de skörda människoliv, och då inte bara genom att få militärer att styra drönare mot civila.

Nyligen uppmärksammade New Yorks mykologiska sällskap att opålitliga svampböcker börjat dyka upp på nätbokhandeln Amazon. Böckerna är uppenbarligen inte skrivna av någon svampkunnig, utan av AI-modeller som gissar fram texter för att det ska låta proffsigt. Den svampplockare som följer böckernas råd riskerar i värsta fall en plågsam död.

En snabb sökning visar att författarnamnet Kecia Abbot står bakom tolv böcker, samtliga med utgivningsdatum 25 juli 2023, varav flera handlar om ätliga växter och svampar. Kecia Abbot tycks däremot inte ha lämnat några andra spår på nätet. Att boktitlarna skrivits i versaler är ett ytterligare varningstecken. För det tränade ögat räcker det att snabbkika på valfri boksida för att se att det är fråga om AI-genererad text.

Robotförfattaren Kecia Abbots svampböcker distribueras i skrivande stund även av svenska nätbokhandlar som Adlibris, Bokus och Storytel (i sistnämnda fall som ljudböcker – på spanska). Om inte dessa plattformar lyckas bygga filter mot AI-genererade böcker kommer deras utbud med tiden att bli allt mer likt e-postens skräpkorg.