Men trots att över 3 000 ändringar redan gjorts i förslaget finns det enligt kritiker fort­farande frågetecken att räta ut om förordningen verkligen ska utgöra ett skydd mot skadlig AI.

– ­Förslaget har flera problem. Ett exempel är vad som ska definieras som AI, ett annat är indelningen i hur hög risk olika AI-system utgör för medborgarna, ett tredje är att det inte är särskilt väl beskrivet hur individer ska göra för att överklaga om deras rättig­heter kränkts, säger Virginia Dignum, professor i social och etisk AI vid Umeå universitet.

Kritik från många håll

Hon är långt ifrån ensam om att ha identifierat brister i lag­förslaget. Civilorganisationer, experter, forskare och till och med Wojciech Wiewiórowski, EU:s egen högste ansvarig för datasäkerhet, har kommit med kritik.

Forskningsorganisationen Future of life institute anser till exempel att AI Act borde ta ­större hänsyn till AI-applikationers påverkan på samhällelig nivå och inte bara på individer. Från Cambridgeuniversitetet hörs röster som vill att förordningen blir mer flexibel, så att framtida AI-teknik också omfattas. Kritik har också riktats mot att det saknas en mekanism som effektivt ser till att lagen efterlevs.

Men det som allra flest kritiker, bland dem Wojciech Wiewiórowski, pekar på är att AI Act tycks formulerat för att skydda endast EU-medborgare, vilket går stick i stäv med unionens brösttoner om allas lika värde och i realiteten ger carte blanche till de kränkningar av de mänskliga rättigheterna som pågår vid EU:s gränser.

EU:s politik ”rasistisk”

Till exempel listas i artikel 5 AI-tillämpningar som ska vara förbjudna, men dessa förbud kommer enligt artikel 83 inte att gälla om tillämpningarna ingår i AI-system som är del av större, EU-gemensamma it-system. Det betyder att de olika begränsningarna helt kan förbises till exempel inom ramen för övervakningen av unionens gränser.

Eller som Caterina Rodelli, analytiker vid civilorganisationen Access now, uttrycker det för The Parliament Magazine:

– Artikel 83 är beviset på att EU:s politik är rasistisk!

Så långt vill inte Virginia ­Dignum gå. En orsak är att ­förordningen ännu inte ­klubbats och säkerligen ­kommer att hinna genomgå ändringar inför slutlig lagtext.

– Jag tror inte det funnits några rasistiska drivkrafter hos dem som formulerat förslaget, men vi ser på de oklarheter som finns att lagförslaget i sin nuvarande form kan användas för att behålla några av de olämpliga aktiviteter som försiggår vid till exempel EU:s gränser.

Fattar diskriminerade beslut

Kombinationen av artiklarna 5 och 83 gröper ur de mänskliga rättigheterna på två sätt. Dels genom att den som vill passera nålsögat in till unionen får finna sig i att bli utvärderad och profilerad av AI-system som om och om igen har visat sig fatta diskriminerande beslut. Dels genom att AI fortsatt kommer att kunna användas för att övervaka människor – eller migrationsströmmar – på väg till unionen så att de kan stoppas innan de ens nått EU:s gränser. Förfarandet kallas ”pushbacks” och innebär i praktiken nästan alltid ett brott mot internationell rätt.

Inget av ovanstående skulle enligt lagförslaget vara möjligt om det drabbade EU-medborgare. I artikel 5 förbjuds användning av AI-system för att ”utvärdera fysiska personers pålitlighet på grundval av deras sociala beteende”, vilket alltså är vad den som söker asyl i ett EU-land måste underkasta sig via den AI-baserade lögndetektorn ”iBorderCtrl”. Samma artikel förbjuder också användning av ”system för biometrisk fjärridentifiering i realtid” för annat än brottsbekämpning. Det vill säga precis vad många EU-länder ägnar sig åt när de övervakar sina gränser.

– Det verkar inte som att förslaget som ligger på bordet kommer att ändra på detta. Dessutom berörs inte befintliga system av förbuden i AI Act, inte så länge de inte genomgår stora förändringar. Men som sagt, förordningen diskuteras fortfarande, säger Virgina Dignum.

Och just pushbacks är långt ifrån ett marginellt problem. I slutet av 2022 släppte nätverket Border violence monitoring network (BVMN) rapporten The black book of pushbacks med över 1 600 vittnesmål där totalt nästan 25 000 personer sedan 2017 med våld hindrats från att komma in i unionen – och därmed hindrats från att utnyttja den mänskliga rättigheten att söka asyl – och sedan lämnats åt sitt öde.

”The black book innehåller endast vittnesmål som nått till BVMN. Det verkliga antalet människor som drabbats av pushbacks och som upplevt våld vid gränserna är sannolikt mycket högre”, skrev organisationen i ett pressmeddelande när rapporten släpptes.

Och vad kanske värre är: enligt BVMN har våld, tortyr och förnedrande behandling blivit allt vanligare i samband med pushbacks och håller på att normaliseras.

SD vill gå längre

Dagens ETC har kontaktat en handfull svenska EU-parlamentariker för att fråga hur de ser på lagförslaget. Varken Malin Björk (V) eller Evin Incir (S) har svarat på förfrågan, medan David Lega (KD) avböjer att kommentera. Men Charlie Weimers (SD), svarar per mejl att hans parti är skeptiskt till att beslut om AI är något som behöver tas från Bryssel.

– Det finns olika åsikter i olika länder om avvägningen mellan de möjligheter till nya industrier, tillväxt och brottsbekämpning och de faror som AI eventuellt innebär. Av dessa skäl bör besluten ligga hos nationella parlament, skriver han.

På frågan om risken för brott mot mänskliga rättigheter väljer han istället att fokusera på att förslaget enligt EU-kommissionen ”i viss mån begränsar näringsfriheten” och på att det – tvärtemot kritikerna – går för långt när det gäller begränsningar av AI-system.

– Vi anser att de krav på tillståndsmekanismer och andra skyddsåtgärder som föreslås och som kan hindra polisens och rätts­väsendets arbete bör tas bort. Användning av AI för inre säkerhet bör vara nationella beslut i likhet med de som rådet krävt skall gälla för yttre säkerhet.