– Det är ett integritetsintrång. Man kommer inte längre kunna röra sig fritt i offentliga utrymmen utan att bli igenkänd, säger Maryse Artiguelong, vicepresident och styrelsemedlem för det franska människorättsorganet Ligue des droits de l’Homme.
Hon uttrycker framför allt en oro för att de algoritmer som styr ansiktsigenkänning inom AI-teknik kan komma att bidra till ytterligare diskriminering av redan utsatta marginaliserade grupper.
Utöver att kunna identifiera föremål som kvarlämnade väskor ska tekniken i realtid kunna analysera individers fysiska såväl som fysiologiska attribut som utseende, gester och hållning. Med hjälp av övervakningskameror och drönare ska ”misstänkt” och ”abnormalt” beteende i stora folksamlingar kunna upptäckas i brottsförebyggande syfte.
Varnar för dystopi
Förslaget röstades igenom av senaten i juni med stor majoritet på 226 röster mot 117 röster. Majoritetspolitikerna argumenterade bland annat för att kaoset under fjolårets Champions League-final mellan Liverpool och Real Madrid på Stade de France hade kunnat förhindrats med hjälp av biometrisk övervakning. Oppositionen lyfte istället farhågor kring en utveckling mot ett dystopiskt övervakningssamhälle och använde OS i Peking 2008 som exempel.
Frankrikes inrikesminister Gérald Darmanin försvarade lagen med orden ”i exceptionella situationer behövs exceptionella medel” och försäkrade om att det handlar om att identifiera situationer, inte människor.
De Olympiska och Paralympiska spelen är ett av världens mest populära sportevenemang och förväntas locka omkring 13 miljoner besökare år 2024.
Maryse Artiguelong menar att säkerhetspolitiken i Frankrike har blivit allt strängare till följd av de många terrordåd som drabbat landet under de senaste tio åren och som ligger till grund för antagandet av den nya lagen – inte minst novemberattackerna som utfördes på flera olika platser runtom i Paris av en islamistisk extremistgrupp 2015 och skördade 130 liv.
Marknadskrafter kan påverka
Frankrikes AI-lag ska prövas under en testperiod fram till mars 2025 och omfattar utöver OS alla storskaliga sport- och kulturevenemang med över 300 deltagare. Maryse Artiguelong menar att potentiella finansiella vinster på säkerhetsmarknaden kan komma att bli ett motiv till att sätta kraften i lag permanent.
– Det är en marknad som drar in mycket pengar, säger hon.
Det europeiska digitala rättighetsnätverket EDRI uppmanar till förbud mot biometrisk massövervakning i offentliga utrymmen och förbereder för närvarande ett ärende mot Frankrike och hoppas kunna upphäva antagandet av lagen.
– Många rapporter om mänskliga rättigheter från Kina under de senaste årtiondet handlar om användandet av teknik, från sociala kreditsystem till ansiktsigenkänning. Den kinesiska regeringen säger att det är viktigt att ha bra medborgare och säkerställa fredlig ordning men det är ett verktyg för social kontroll. Faktumet att EU, eller i det här fallet Europeiska rådet lyfter fram det här, visar att vi är på väg i fel riktning kring vad mänskliga rättigheter ska handla om, vilket är att skydda invånare, inte kontrollera dem ännu mer, säger Diego Naranjo från EDRI.
Han menar att legaliseringen av biometrisk videoövervakning i Frankrike strider emot EU:s fundamentala rättigheter och att tillämpningen inte går i linje med undantagsprincipen för nationell säkerhet.
– Att övervaka alla som befinner sig på specifika gator eller tillställningar för att upptäcka brottslighet är enligt vår åsikt inte proportionerligt eller enligt rättspraxis för den europeiska domstolen för mänskliga rättigheter. Frankrikes nödåtgärder är de facto standardiserade numera, och det är väldigt drakoniska åtgärder. De har under en lång tid kränkt personlig integritet på extrema vis, så det här är bara ytterligare ett steg i den riktningen.
