Veckans fråga: Ska AI få fatta myndighetsbeslut?

I Italien bestämmer algoritmer vilka som ska få behandling i sjukvården. I Danmark identifieras barn som kan behöva extra socialomsorg av algoritmer. I Finland profileras arbetssökande utifrån vad de har i sin inkorg.

Automatiserat beslutsfattande används inom allt fler områden och har även fått genomslag inom svensk offentlig förvaltning. 2017 började Trelleborg använda automatiserat beslutsfattande för försörjningsstöd och deras algoritm har gått på export till 14 andra kommuner. Anne Kaun vid Södertörns högskola, har kartlagt frågan.

– Det som är intressant ur ett nordiskt perspektiv är att det finns en så hög ambitionsnivå. Sverige vill vara i framkant och mycket pengar går till teknisk utveckling inom området. Samtidigt sker väldigt lite kritisk granskning och forskning om effekterna. Man glömmer bort vilka utmaningarna det innebär, säger hon.

Vilka utmaningar är det du syftar på?

– De etiska frågorna om var ansvaret ligger när beslut delegeras till tekniken är ett exempel. Det finns också många juridiska problem inom ansvarsfrågan och det finns i dag olika bedömningar om huruvida Trelleborg håller sig inom lagen eller ej med sitt projekt. En annan sak är att medborgarna måste säkerställas rättvisa beslut som går att överklaga. Medborgarna måste också vara en del av utvecklingen, i dag har de knappt informerats om att det är maskiner som tar beslut i deras vardag.

Hur förflyttas makten när algoritmerna får styra?

– De som tar fram algoritmerna, det vill säga programmerarna, blir en ny typ av maktfaktor. De är människor som kanske uppfattas som neutrala men de har också föreställningar om världen och kring vad som är bra eller dåligt. Då kan det exempelvis hända att algoritmer för igenkänning inte känner igen svarta människor, för att systemet bara har tränats på vita människor.

Hur ser utvecklingen ut?

– De algoritmer som används nu är statiska, de förändras inte. Men de kommer att ersättas av AI, det vill säga system som är självlärande. Då kommer än mer makt att delegeras från människor till maskiner. Det är där investeringarna sker just nu på forskningssidan. De svenska strategidokumenten visar att det finns en teknikoptimism, inställningen är att rätt teknik kan lösa alla problem. Tyvärr är det inte så enkelt, det finns många steg däremellan, säger Anne Kaun.