AI-gränsvakter testas längs Europas gränser

Under nio månader, längs gränserna mellan Ryssland och Lettland, Serbien och Ungern och Grekland och Norra Makedonien, kunde personer som korsade gränsen välja att ställa upp på ett videosamtal med en virtuell gränsvakt. I samtalet fick personerna svara på frågor om sin identitet och sitt bagage, samtidigt som AI läste av deras ansiktsuttryck för att bedöma om de talade sanning. Mjukvaran, iBorderCtrl, har utvecklats av det brittiska bolaget Silent Talker, som hävdar att en persons omedvetna ansiktsuttryck avslöjar lögner. Försöket, som avslutades i somras, är finansierat av EU:s forsknings- och innovationsprogram Horizon 2020, som har målet att producera världsledande forskning och innovation i EU.

Men att lögner kan utläsas ur ansiktsuttryck är omstritt. Silent Talkers teknologi lutar sig mot teorier om känsloigenkänning, som är mycket kritiserade. Dessutom har ansiktsigenkänningsteknik som sådan i en mängd fall visat sig bära på diskriminerande utfall, på grund av att AI:n ofta tränats upp på ett skevt urval. När tidningen The Intercepts reporter, som första journalist, testade systemet vid den serbisk-ungerska gränsen, tolkade den virtuella gränsvakten fyra av 16 svar som falska, trots att reportern svarade sanningsenligt på alla frågor.

I en rapport från projektet påstås att iBorderCtrl har en 74-procentig träffsäkerhet när det kommer till att avgöra om en person ljuger och en träffsäkerhet på 76 procent när det kommer till att känna igen sanningar. Någon data för att underbygga dessa påståenden, eller beskrivningar av hur projektet gått till, har dock inte släppts för offentlig granskning. Detta med hänvisning till att det kan underminera företagets framtida lönsamhet.

Patrick Breyer, EU-parlamentariker för tyska Piratpartiet har stämt EU på grund av beslutet att inte släppa dokumenten.

– Det handlar om demokrati. Det är ett projekt som finansierats av skattepengar, och ändå får vi inte se datan. Även om teknologin inte skulle implementeras i EU finns risken att företaget säljer teknologin till auktoritära regimer eller den privata sektorn, säger han till Novara media.

PRENUMERERA PÅ ETC HELG

Den här artikeln kommer från veckans ETC Helg.
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.