– Det finns många fördelar med automatiserade beslut, men frågan är om man verkligen ska börja med det svåraste, med beslut som bygger på socialtjänstlagen, där det handlar om individuella bedömningar. Hittills har jag inte sett nåt script som imponerat på mig. Människor kan helt enkelt ta hänsyn till variabler och faktorer på ett sätt som script inte kan, säger han och lägger till att det kan bli hur fel som helst om robotar får ta över vissa beslut.

– Det är ju beslut över människors liv det handlar om. Det stora problemet är att ingen vet hur det här funkar. Det är som en svart låda.

Fyra knutar att lösa

Det är framför allt fyra problem som måste åtgärdas innan Simon Vinge kan tänka sig att svänga angående införandet av automatiserade beslut i kommuner i allmänhet och inom socialtjänsten i synnerhet.

För det första vill han se en reglering av kommuners skyldig­het att visa hur automatiseringen fungerar. Det får helt enkelt inte uppstå tvivel hos medborgare om hur ett beslut fattats. För det andra måste det finnas redovisnings­skyldighet för kommuner.

– Vi ser också att man som individ ska ha rätt att inte omfattas av automatiserade beslut. GDPR säger visserligen så redan, men det skulle behöva förtydligas. Och för det fjärde behövs också en svart lista på saker som inte får automatiseras, säger han.

”Naiv inför frågan”

Trots de egna invändningarna tror Simon Vinge att utredningen till slut kommer att landa i att kommunallagen skrivs om.

– Just nu har vi visserligen ingen regering, så det beror lite på vem som sitter där i höst. Min gissning är ändå att de kommer att köra på det här. Vi har ju haft en dialog med utredaren under hennes arbete och framfört våra synpunkter, men till slut landade hon ändå i detta. Om politikerna till slut gör tummen upp för detta är man naiv inför frågan, säger han.