Wanneer de Olympische Zomerspelen van dit jaar volgende week in Parijs, Frankrijk, beginnen, zullen naar verwachting bijna 100 praalwagens gevuld met ‘s werelds beste atleten de rivier de Seine oversteken. Ongeveer een half miljoen fans zullen juichen als de sportambassadeurs van hun land door het Louvre, langs de Eiffeltoren en een reisgids aan andere historische monumenten lopen. Maar fans zullen niet de enigen zijn die kijken. Duizenden CCTV-camera’s met uitzicht op de rivier zullen de gebeurtenissen in realtime volgen. Achter de schermen doorzoeken krachtige nieuwe AI-modellen de beelden op zoek naar tekenen van gevaar die verborgen zijn in de menigte. Een controversieel nieuw AI-aangedreven surveillancesysteem, dat volgens critici in strijd zou kunnen zijn met de bredere privacywetten van de Europese Unie, is een van de vele manieren waarop Frankrijk technologie gebruikt om van de Olympische Spelen van dit jaar een van de meest bekeken Olympische Spelen sinds mensenheugenis te maken.
AI-surveillance zal op zoek gaan naar verstoringen van het publiek
Franse wetgevers hebben eind vorig jaar een nieuwe wet aangenomen die wetshandhavers tijdelijk de mogelijkheid geeft om ‘experimentele’ kunstmatige intelligentie-algoritmen te gebruiken om openbare video-inhoud te monitoren en ‘real-time publieksanalyse’ te bieden. In de praktijk zullen de AI-detectiemodellen naar verluidt de feeds van duizenden CCTV-camera’s analyseren op zoek naar tekenen van potentieel gevaarlijke afwijkingen die verborgen zijn in het Olympische publiek. Deze waarschuwingssignalen kunnen bestaan uit mensen met wapens, een groter dan verwachte menigte, vechtpartijen en onbeheerde bagage.
Frankrijk werkt samen met een aantal AI-analysetechnologiebedrijven, waaronder Wintics, Videtics, Orange Business en ChapsVision. De politie heeft het nieuwe systeem al getest op enkele metrostations, op het filmfestival van Cannes en tijdens een druk bezocht Depeche Mode-concert. Dat zei politiechef Laurent Nunez van Parijs onlangs Reuters De concertrepetitie verliep ‘relatief goed’ en ‘alle lichten staan op groen’ voor het gebruik van het systeem tijdens de Olympische Spelen.
Als het AI-model een potentiële dreiging detecteert, zal het dit melden aan een wetshandhavingsfunctionaris, die vervolgens besluit of er al dan niet verdere handhavingsmaatregelen worden genomen. Franse functionarissen beweren dat alle realtime analyses zullen plaatsvinden zonder het gebruik van gezichtsherkenning of het verzamelen van andere unieke biometrische identificatiegegevens. In plaats daarvan zeggen de politie en hun particuliere partners dat het model alleen ‘gedragspatronen’ zal meten, zoals beweging en lichaamspositie. Ambtenaren beweren dat AI geen individuen kan identificeren op basis van hun biometrische identiteit.
“Het gaat niet om het herkennen van ‘Mr. X’ in de menigte’, zei de Franse minister van Binnenlandse Zaken, Gérald Darmanin, naar verluidt tijdens een ontmoeting met Franse wetgevers eerder dit jaar. “Het gaat om het herkennen van situaties.”
De Olympische Spelen zullen de nieuwe ‘experimentele’ AI-videobewaking van Frankrijk op de proef stellen
Maar sommige critici vragen zich af of het technisch mogelijk is om dit soort AI-videoanalyses uit te voeren zonder onbedoeld biometrische identificatiegegevens te verzamelen en te vergelijken. Dit zou Frankrijk ertoe kunnen brengen de Europese Algemene Verordening Gegevensbescherming (AVG) en de onlangs aangenomen EU-wet inzake kunstmatige intelligentie te schenden. Een coalitie van 38 Europese maatschappelijke organisaties schreef eerder dit jaar in een open brief dat het volgen van de gang, lichaamspositie en gebaren van modellen nog steeds kan worden aangemerkt als biometrische markers die worden gebruikt om bepaalde individuen of groepen te identificeren. Als dat het geval is, zo betogen de groepen, dan zou het systeem de bestaande AVG-regels schenden die de reikwijdte van de verzameling van biometrische gegevens in openbare ruimtes beperken.
De AVG-regels staan bepaalde uitzonderingen toe op de regels voor het verzamelen van biometrische gegevens op basis van kosten van algemeen belang, maar rechtengroepen beweren dat de in de Franse zaak verleende toestemmingen te ruim zijn en niet in verhouding staan tot eventuele schijnbare bedreigingen. Mensenrechtengroeperingen en sommige wetgevers die tegen de versnelde wet zijn, maken zich ook zorgen dat deze een gevaarlijk precedent zou kunnen scheppen voor toekomstige wetten op het gebied van openbaar toezicht en mogelijk de bredere inspanningen van de EU om AI-toezicht aan banden te leggen, zou kunnen ondermijnen. De adviseur van Amnesty International op het gebied van de regulering van kunstmatige intelligentie, Mher Hakobyan, zei dat de surveillancemacht, ook al is deze tijdelijk, “het risico loopt Frankrijk permanent te transformeren in een dystopische surveillancestaat”. Human Rights Watch, dat een eigen brief schreef aan Franse wetgevers die tegen de snelle wet waren, vreest eveneens dat deze een “ernstige bedreiging vormt voor de burgerlijke vrijheden en democratische beginselen” en het risico loopt de raciale verschillen in de wetshandhaving verder te verergeren.
“Het voorstel maakt de weg vrij voor het gebruik van invasieve, door algoritmen aangedreven videobewaking onder het voorwendsel van het beveiligen van grote evenementen”, schreef Human Rights Watch in haar brief. “Het bestaan alleen al van ongerichte (vaak willekeurige) algoritmische videobewaking in publiek toegankelijke gebieden kan een huiveringwekkend effect hebben op de fundamentele burgerlijke vrijheden.”
Anderen zijn intussen bang dat de zogenaamd tijdelijke nieuwe maatregelen onvermijdelijk de status quo zullen worden. De toezichtwet gaat officieel in 2025 in, hoewel wetgevers de mogelijkheid zullen hebben om deze te verlengen als ze dat willen. Voorstanders van de uitgebreide bevoegdheden beweren dat deze een noodzakelijk instrument zijn om de verdediging van het land tegen potentieel dodelijke terroristische aanslagen te versterken. Vooral Frankrijk heeft de afgelopen twintig jaar ruim zes grote aanslagen meegemaakt, waaronder een reeks schietpartijen in 2015 waarbij 130 mensen om het leven kwamen. Het incident uit 2015 bracht Frankrijk ertoe een tijdelijke noodtoestand af te kondigen, die uiteindelijk ruim twee jaar zou duren.
“We hebben dit al gezien bij eerdere Olympische Spelen, zoals in Japan, Brazilië en Griekenland”, zei digitale rechtenactiviste Noémie Levain van La Quadrature du Net tijdens een interview met BBC eerder dit jaar. “Wat speciale veiligheidsvoorzieningen hadden moeten zijn voor de bijzondere omstandigheden van de spelen, werd uiteindelijk genormaliseerd.”
Frankrijk voert de beveiliging op voor een grootschalige openingsceremonie in de open lucht
De Franse nadruk op veiligheid tijdens de Olympische Spelen van dit jaar gaat verder dan videobewaking. De autoriteiten hebben de directe zone rond delen van de rivier de Seine, waar de openingsceremonie zal plaatsvinden, aangewezen als een “antiterroristische perimeter”. Een gedeelte van ongeveer 6 mijl zal tussen 18 en 26 juli onderworpen zijn aan verhoogde veiligheidsniveaus.
Ongeveer 20.000 Franse inwoners die binnen de perimeter wonen en werken, zullen naar verluidt vóór de spelen gedwongen worden antecedentenonderzoek te ondergaan om vast te stellen of zij vermeende banden hebben met vermeende islamistische extremistische groeperingen. Elk van deze personen ontvangt een QR-code uitgegeven door een overheidsinstantie die ze moeten gebruiken om tijdens het evenement door het gebied te navigeren. Zwaarbewapende politie- en militaire eenheden, die de afgelopen tien jaar in heel Parijs een normaal verschijnsel zijn geworden, zullen naar verluidt tien keer zo vaak aanwezig zijn als normaal. De lokale politie zal naar verluidt samenwerken met honderden bomexperts, duikers, antiterreureenheden en gespecialiseerde troepen die zijn opgeleid om potentiële dronedreigingen te verminderen.
Jarenlang hebben de Olympische Spelen gediend als proeftuin voor landen over de hele wereld om hun nieuwste digitale surveillancetools te adverteren en in te zetten. China maakte op beroemde wijze gebruik van gezichtsherkenning voor veiligheidscontroles tijdens de Olympische Spelen van 2008 in Peking en opnieuw tijdens de recente winterspelen. Russische inlichtingenfunctionarissen die toezicht hielden op de Olympische Winterspelen van 2014 in Sotsji hielden op vergelijkbare wijze toezicht op de digitale communicatie en het internetverkeer van concurrenten en deelnemers. In al deze gevallen rechtvaardigen de gastlanden het buiten de grenzen van normale surveillanceoperaties treden als middel om de veiligheid gedurende een ongekende periode te garanderen. Er is een legitieme reden tot bezorgdheid. De Olympische Spelen zijn herhaaldelijk de bron van geweld geweest. Maar zelfs wanneer de onmiddellijk waargenomen dreiging verdwijnt, is het bekend dat de gastlanden hun nieuwe surveillancecapaciteiten behouden, wat volgens activisten uiteindelijk de burgerlijke vrijheden in de loop van de tijd aantast. Het valt echter nog te bezien of Frankrijk hetzelfde draaiboek zal volgen.