Samma bild förmedlas från flera olika håll. Forskare på New York University kallar situationen inom AI för en ”mångfaldskatastrof” på grund av den totala vita, manliga dominansen.

– Branschen måste erkänna situationens allvar och inse att dess befintliga metoder har misslyckats med att lösa de här problemen, säger Kate Crawford, en av rapportens författare till The Guardian.

Diskriminerande teknik

Så vad är egentligen problemet? Enligt studien på New York University så riskerar den vita och manliga dominansen att återskapa maktobalanser och göra den nya tekniken diskriminerande. Och inte bara det, tekniken riskerar att inte fungera för kvinnor, samtidigt som AI lyfts fram som räddningen för den kvinno­dominerade välfärden.

– I dag finns det en enorm tilltro till tekniska lösningar och en stor beundran inför den unga, framgångsrika maskuliniteten, säger Maria Udén, professor i genus och teknik vid Luleå tekniska universitet.

22-åriga, teknikkunniga män ska utveckla system för alla typer av verksamheter. Även dem de inte har någon erfarenhet av. Men det är ju egentligen inte deras fel att det blir fel, menar Maria Udén. Ansvaret ligger hos beställare och arbetsgivare och hos forsknings- och innovationsfinansiärer. Kompetensen finns redan där, men kanske inte nödvändigtvis bland programmerarna och AI-forskarna.

Involvera välfärdsarbetarna

– Många av de kvinnor som finns i välfärden i dag och som ska använda den här tekniken kan redan nu involveras i arbetet med att utveckla lösningar. Det handlar om att ta tillvara deras kunskap och innovationskraft, säger Maria Udén.

Och då menar hon att detta bör göras ordentligt, som en del av deras anställning.

– Som det är i dag är ofta formerna för ett sånt engagemang bland till exempel vårdpersonal vaga. Du får kanske en biobiljett för att du ingår i en fokusgrupp. Men för att det ska bli bra ska det vara en del av din anställning, med bra lönevillkor.

Om inte de som har erfarenhet av de verksamheter som tekniken ska användas i får vara med när tekniken utvecklas så riskerar den att bli oanvändbar eller till och med farlig.

Smart blev osmart

Maria Udén tar några exempel. En kvinna hon har intervjuat jobbar med rådgivning. Hon sitter på ett kontor där lamporna styrs av rörelsesensorer för att spara energi. Eftersom hon jobbar med rådgivning så sitter hon mycket still. Även de som kommer till hennes kontor för att få råd sitter still. Så det händer ofta att lampan slocknar trots att hon är där. Och eftersom kontoret ligger i Luleå där det är mörkt från klockan tre under vinterhalvåret så blir det kolsvart. Hon har försökt få det här löst, men ingen kan fixa det. Så hon har fått lösa det genom att ta med en helt vanligt golvlampa till jobbet som lyser hela tiden. Hon har fått gå hela varvet runt. Det smarta systemet visade sig vara väldigt osmart.

Ett annat av Maria Udéns exempel handlar om något så simpelt som en fåtölj. En av Maria Udéns kollegor på universitet är kort. Många människor är kortare än normallängden för en vit man. När kollegan häromdagen på en konferens skulle sätta sig i en fåtölj på fikarasten var hon för kort för att kunna sitta med fötterna i marken och samtidigt luta sig bakåt mot ryggstödet. Hon fick alltså välja mellan att sitta och vifta med fötterna i luften eller att sitta utan ryggstöd.

– Och att sitta och vifta med fötterna som en unge, det ger inte särskilt mycket pondus, säger Maria Udén.

Inte alla kroppar

Ett annat värre exempel har tagits upp av Cecile Crutzen som forskar på etik och AI. Det finns rum vars ventilation är helt styrd av AI. Det blir ingen ventilation alls om inte datorn säger till. Om du då inte rör dig, beter dig, har rätt längd eller rätt vikt utifrån vad systemet är programmerat utifrån så kan du kvävas i rummet.

– Ingen vill förstås med mening programmera ett sånt system men om det måste gå snabbt och om det måste vara billigt så kan sådana situationer uppstå. Människor beter sig olika beroende på ålder, bakgrund, uppfostran och kön. Vi lär oss hur vi ska hantera våra kroppar i förhållande till tid och rum, säger Maria Udén.

Artificiell intelligens är en benämning på maskiner och program som efterliknar mänskligt beteende och tänkande. Exempel på AI är mönsterigenkänning, bild­analys och talförståelse.

Enligt Sveriges kommuner och landsting (SKL) kommer kommunsektorn att behöva 60 procent av alla de som tar klivet ut på arbetsmarknaden under de kommande sju åren. Totalt över en halv miljon personer till skola, vård och omsorg. SKL tror inte att det kommer att gå och föreslår teknik som en del av lösningen. Enligt rapporten ”Automatisering av arbete – möjligheter och utmaningar för kommuner, landsting och regioner” kan cirka 25–35 procent av arbetet inom välfärden automatiseras.

Misslyckad design

Taligenkänning – smarta högtalare som Alexa och Google har visat sig ha lättare att uppfatta vad män säger, jämfört med vad kvinnor säger. 67 procent av kvinnorna i en brittisk studie svarade att de ofta eller ibland missförstås av sina smarta högtalare, jämfört med 54 procent av männen. Eftersom systemen ofta utvecklas utifrån manliga röster så har de svårare att uppfatta ljusare röster.

Ansiktsigenkänning – blir allt vanligare men har visat sig ha brister, om du är inte är en vit man vill säga. En studie från MIT Media Lab och Microsoft visar för män med vit hy låg felmarginalen på mindre än en procent. För mörkhyade och kvinnor på mellan 21 och 35 procent. Allra sämst var systemen på att känna igen mörkhyade kvinnor.

Arbetskläder – Nasa skulle tidigare i år för första gången låta två kvinnor samtidigt gå på rymdpromenad från den internationella rymdstationen ISS. Men det stoppades av att det inte fanns två rymddräkter anpassade efter den kvinnliga kroppen. Bara en av kvinnorna kunde ta sig ut i rymden. Men det handlar inte bara om rymddräkter. Även vanliga arbetskläder för fabriksarbete är ofta anpassade efter mäns kroppar vilket gör att de kan bli farliga för kvinnor. Om de ska passa över höften blir ärmarna ofta för långa och det blir tyg över på andra ställen som riskerar att fastna i maskinerna.

Förarhytter – Maria Udén berättar att några genusstuderande vid Luleå tekniska universitet nyligen uppmärksammade att förarhytter på lastbilar inte är anpassade efter kvinnor. De är skapade för personer som är minst 175 centimeter långa. Den som är kortare än 175 centimeter, vilket många kvinnor är, kan inte nå fram till pedalerna och samtidigt vila ryggen mot ryggstödet vilken kan leda till slitningar och spänningar.

Bilar – säkerheten i många bilar har prövats ut med hjälp av krockdockor som liknar typiska män, alltså utgör från medelmannens längd och vikt. Enligt en studie från University of Virginia så löper kvinnor som bär säkerhetsbälte vid en frontalkrock 73 procent högre risk att skadas än en man som är bältad.