Automatiserat beslutsfattande är ingenting nytt. Precis som med mycket av det vi kallar för ”artificiell intelligens” handlar det snarare om en gradvis utveckling som redan har pågått i årtionden. Vad är en kreditupplysning annat än en simpel algoritm för att väga samman data om någons privatekonomi? Algoritmer som avgör vem som får ta ett lån eller en försäkring. De styr människors livsmöjligheter, men så länge det sker inom privata företag är det få som upprörs över bristen på insyn. Dessutom kallas det inte diskriminering när man sorterar bort bara för att människor saknar en fast inkomst.

Lite mer kontroversiellt ter sig robothandläggarnas intåg i offentlig sektor. Trelleborgs kommun har redan automatiserat besluten om vilka som ska beviljas försörjningsstöd. Såväl inom vården som Polisen är auto­matiska beslutsstöd på obeveklig frammarsch. Vilka grunder som finns för besluten vet då ofta bara det multinationella företag som har levererat mjukvaran.

En statlig utredning från i våras (SOU 2021:16) gav i stort sett grönt ljus för denna utveckling. Sveriges kommuner och regioner, SKR, driver på, medan kraftiga invändningar däremot har kommit från Akademikerförbundet SSR. De pekar bland annat på risken för automatiserad diskriminering. Det behöver inte finnas några onda avsikter inbyggda i programkoden. Det räcker med att existerande mönster av rasism eller sexism finns i den data som matas in. Forskare har gång på gång visat hur maskininlärning tenderar att inte bara återskapa utan även stärka sådana strukturer. För den som vill fördjupa sig i saken rekommenderas första kapitlet i Olle Häggströms aktuella bok ”Tänkande maskiner”.

Om statsapparaten gradvis tas över av algoritmer som varken är öppna eller begripliga, nås till slut den punkt då det blir omöjligt att kalla staten för demokratisk. 

Den här artikeln kommer från ETC nyhetsmagasin
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.