Frankrike vill övervaka OS-staden Paris med AI som hjälp – experter befarar att Europa kan följa efter: ”Inkörsport till samhälle likt Kina?”

Frankrike tänker använda en historisk AI-övervakning under OS i Paris för att öka säkerheten. Riskerna oroar både experter och beslutsfattare på EU-nivå.

Bilder som gör reklam för resor till den kinesiska staden Chongqing visar upplysta skyskrapor, den grönskande miljön vid Yangtzefloden och nöjda pandor.

Bakom den här idyllen ligger ett massivt övervakningsmaskineri. Enligt analysföretaget Comparitech finns det 7,6 miljoner övervakningskameror i Chongqing, en stad med över 17 miljoner invånare. Med andra ord går det två personer på en kamera.

Ökningen av övervakningen som det kommunistiska partiet i Kina utvecklar ser ingen slutpunkt. Den hjälper till för att förhindra och klara upp brott, men den leder också till stora problem.

Med hjälp av övervakningen upprätthåller det kinesiska styret ett poängsystem. Förenklat rankas människor, exempelvis enligt hur flitigt man betalar räkningar, beter sig i trafiken eller med vilka man tillbringar sin fritid.

– Ur ett västerländskt perspektiv är Kinas system helt förfärligt, säger Petteri Järvinen som är expert på informationssäkerhet.

Samtidigt lägger Järvinen till att många kineser tycker att övervakningen är positiv.

Ny lag i Frankrike

Kinas övervakningssamhälle beskrivs ofta med ord som orwellskt och dystopiskt. Experter inom både teknologi och mänskliga rättigheter har uttryckt sin oro över att västvärlden kan glida in på liknande spår.

Oron växte i mars. Då meddelade Frankrike att landet – som första EU-land – börjar med massövervakning av medborgarna med artificiell intelligens (AI) som hjälp.

Orsaken? Sommar-OS i Paris nästa år.

Om AI-övervakning blir normaliserat, hur många steg återstår innan vår demokratiska omgivning förändras?

Gry Hasselbalch

Ungefär 15 000 idrottare kommer till Paris under OS och Paralympics. Enligt uppskattningar kommer miljontals turister att besöka staden under mästerskapen. Det leder till huvudbry för de lokala myndigheterna – oro för säkerheten kopplas oundvikligen ihop med ett stort idrottsevenemang som OS.

I historien finns tragiska händelser från bland annat OS i München 1972 och OS i Atlanta 1996. Dessutom skakades Paris av terrorattacker 2015.

Trots det här har många ansett att Frankrikes godkända övervakningslag är en lösning som hotar demokratin. Enligt människorättsorganisationen Amnesty kan lagen leda till en dystopisk övervakning i framtiden.

– Varje gång som övervakningen ökar begränsas någon frihet. Om AI-övervakning blir normaliserat, hur många steg återstår innan vår demokratiska omgivning förändras?, frågar sig Gry Hasselbalch – rådgivande forskare åt EU då det är frågan om kontroversiell teknologi.

Hur fungerar AI-övervakning?

Det franska parlamentets lag har varit i kraft sedan i våras och fortsätter till slutet av 2024.

I den godkända AI-övervakningen i Frankrike används algoritmstyrda kameror. De sparar och analyserar hur människor, som exempelvis befinner sig på stan, i parker eller på idrottsevenemang, beter sig och deras fysiologiska karaktärsdrag. Man granskar bland annat kroppsställningar, gångstil, rörelser, gester, utseende och folksamlingar.

Artificiell intelligens analyserar kameramaterialet. Om AI-verktygen tycker att någon uppträder misstänksamt får polisen larm.

Enligt den nya, franska lagen kan information samlas med hjälp av fasta övervakningskameror eller drönare, men den exakta teknologin har bara en liten grupp vetskap om.

I Frankrikes övervakning används inte ansiktsigenkänning. EU har förbjudit det.

– Numera finns det så många övervakningskameror att ingen klarar av att följa alla skärmar. Därför har man tagit hjälp av AI. Om den till exempel märker att någon bär på ett vapen eller lämnar en väska och går iväg kommer ett alarm till polisen, säger Petteri Järvinen.

Ville Niinistö kritisk

Många organisationer upplever att Frankrikes övervakningslag hotar människors rättigheter när det gäller integritet och yttrandefrihet. FN har också varnat för farorna med en utbredd AI-övervakning.

Under hösten kommer beslutsfattarna i EU att förhandla om lagstiftning som skulle slå fast kriterierna för att kunna använda AI i EU-området.

EU-parlamentarikern Ville Niinistö (Gröna) har arbetat med AI-lagstiftningen. Enligt Niinistö delar ämnet åsikterna på det politiska fältet, och han ställer sig kritisk till AI-övervakningen.

– Jag anser att en stat inte ska få ha utvidgade rättigheter till övervakning om det inte finns tungt vägande skäl. En utbredd övervakning av människor öppnar dörren för utvecklingen av en polisstat, likt det vi redan ser i Kina.

Majoriteten i EU-parlamentet är av samma åsikt. Enligt Niinistö kan AI-övervakning användas i begränsade utrymmen, exempelvis i säkerhetsarbetet vid flygplatser.

– Om man vill använda det bredare för att övervaka människor måste det finnas ett domslutsbeslut. Frankrikes hållning är att man kan övervaka människor nästan utan begränsningar.

Kan gå galet i fel händer

Övervakningen ger utan tvekan fördelar. Med hjälp av kameror har man lyckats lösa många brott. En stor del av kineserna tycker om känslan av trygghet som övervakningen skapar.

Å andra sidan kan teknologi skapa förödelse om det hamnar i fel händer. I Kina har övervakningen använts i förtrycket av uigurerna. I Ryssland får president Vladimir Putins styre stöd av övervakningen.

Experter understryker att vi inte vet tillräckligt mycket om AI-övervakningen för att kunna lita fullt ut på systemet.

– I många fall har AI-systemen varit partiska och lättare skapat misstankar mot vissa människogrupper, säger Hasselbalch.

Hasselbalch lyfter fram autistiska personer och bostadslösa som två grupper som står ut enligt AI.

– Det är en stor fara att personer som redan är i en svagare position bevakas i onödan.

Det är en stor fara att personer som redan är i en svagare position bevakas i onödan

Gry Hasselbalch

Den nya övervakningslagen i Frankrike är i kraft till slutet av 2024, men många är skeptiska i och med att lagar som stiftats inför OS ofta har fortsatt att gälla.

– Det är sannolikt att Frankrikes metoder för övervakning blir bestående och sprider sig till andra länder, säger Petteri Järvinen.

OS i Paris blir en vägvisare. Om AI-övervakningen ger positiva erfarenheter växer viljan att använda det i andra länder.

– Det bekymrar folk mest. Är det här en inkörsport till ett övervakningssamhälle likt Kina? Det skulle vara väldigt skrämmande, säger Järvinen.

Tror inte Europa går i Kinas fotspår

Frågan är om ett stort evenemang som OS behöver AI-övervakning.

– Säkerheten ska garanteras under idrottsmästerskap, men politiker brukar använda dem som en genväg för att begränsa medborgare på sätt som inte skulle vara godtagbara annars. Grunden till övervakning måste vara medborgarnas frihet, säger Ville Niinistö.

Den nya teknologin har åtminstone delvis kommit för att stanna. Niinistö, Järvinen och Hasselbalch är överens om att det måste skapas klara regler för AI-övervakningen.

De tror ändå inte att Europa är på väg mot Kinas modell.

– I Kina har man sålt tanken att övervakningen är för allas bästa. Även i västvärlden har man anpassat sig till det här delvis. Vi använder till exempel smartphone. Om någon för tio år sedan hade frågor om du vill ha en apparat som följer dig och vet om dina hemligheter, hade ingen velat ha en sådan.

Källor: The Guardian, BBC, Business Insider, Washington Post, Iltalehti, The Nation, France 24