Algoritmer är idag många anställdas ”chefer” på Amazon och fattar bland annat beslut om personer får behålla jobbet eller inte. Ofta utan någon mänsklig insyn alls. Enligt källor med insikt i företaget så är grundaren – och en av världens rikaste män – Jeff Bezos inriktad på att fler beslut ska fattas av algoritmer. Enligt honom ska det spara pengar och leda till snabbare beslut.
Automatiserat mail
Men det är de anställda som möter baksidan algoritmernas ledarskap. Flera leveransbud som jobbar under så kallade Flex-kontrakt har tvingats lämna sitt jobb efter att ha fått ett automatiserat mail från ett datorprogram. Mailet innehåller formuleringar om att personen exempelvis inte gjort sitt arbete tillräckligt bra och att anställningen kommer att avslutas.
– Den säger att jag inte gjort mitt jobb när jag vet jävligt väl att jag gjort det, säger Stephen Normandin som sparkades från Amazon i USA genom ett automatiserat mail, till Bloomberg.
Stephen Normandin hade som kontraktsförare levererat paket för Amazon i fyra år. Men en dag beslutade algoritmen att han inte gjort sitt jobb ordentligt och därför inte skulle få vara kvar på företaget. Enligt honom sparkade Amazon honom för saker som var bortom hans kontroll, som att han inte lyckats leverera paket för att portgångar varit låsta.
Tidigare chefer på Amazon säger till Bloomberg att det automatiserade systemet inte tar hänsyn till de verkliga problem som anställda kan möta på daglig basis. Enligt de före detta cheferna var Amazon medvetna om riskerna för att algoritmerna kunde fatta felaktiga beslut. Men företaget såg det som billigare att lita på algoritmen även om den sparkade anställda på felaktig grund, så länge som de enkelt kan ersätta dessa personer.
Diskriminerade kvinnor
Amazon har varit i blåsväder för sina algoritmer förut. 2018 skrotade företaget en tidigare rekryteringsalgoritm efter att den visat sig sortera bort kvinnor systematiskt, enligt Reuters. Anledningen var att datorprogrammet tränats till att observera mönster bland de ansökningar som hade skickats till Amazon de senaste tio åren. De flesta hade under den perioden kommit från män, vilket visade sig forma algoritmens värderingar när den sedan beslutade om rekryteringen.
Saknas lagar
I Storbritannien så varnade The Trades Union Congress (TUC) i våras för att det saknas lagar som skyddar arbetare när algoritmer och artificiell intelligens (AI) tar större beslut på arbetsplatser, enligt BBC. Sammanslutningen av 50 fackliga organisationer anser att det behövs lagligt skydd när anställda kan ”anställas och sparkas av algoritmer”.
– Utan rättvisa regler kan användningen av AI på jobbet leda till omfattande diskriminering och orättvis behandling – framför allt för dem inom osäkra arbeten och gig-jobb, sade generalsekreteraren Frances O’Grady till BBC.
Algoritmer blir allt vanligare inom många verksamheter, och sköter saker som fördelning av jobb, övervakning och den första processen inom rekrytering. TUC:s farhågor är att när datorprogrammen blir mer sofistikerade så kommer de tilldelas större uppgifter. Som till exempel att besluta om vem som ska befordras eller – vilket redan är fallet hos Amazon i USA – bli av med jobbet.
TUC kräver därför i en rapport bland annat att arbetare ska ha rätt till att en människa ser över större beslut som datorer tar och att det ska vara lag i Storbritannien på att man inte får diskrimineras av algoritmer.
