Nog meer problemen voor wetgevers van de Europese Unie op een controversieel gebied van het technologiebeleid – namelijk een wet die een blokkering voorstelt voor de toepassing van surveillancetechnologieën, zoals scannen aan de clientzijde, op digitale berichten om te proberen materiaal van seksueel misbruik van kinderen (CSAM) op te sporen ).
Deze week heeft de ombudsman van de Commissie details vrijgegeven over een bevinding die hij in december deed over wanbeheer naar aanleiding van het besluit van de Europese uitvoerende macht om geen volledigere informatie vrij te geven over de communicatie met een maker van kinderveiligheidstechnologie. Vorig jaar heeft de commissie enkele documenten vrijgegeven met betrekking tot haar uitwisselingen met het bedrijf in kwestie, maar de toegang tot andere documenten geweigerd.
De aanbeveling volgt op een klacht uit juni 2022 bij de ombudsman, ingediend door een journalist, die publieke toegang vroeg tot documenten die naar de Commissie waren gestuurd door Thorn, een Amerikaanse entiteit die AI-technologieën verkoopt waarvan zij beweert dat ze CSAM kunnen opsporen en verwijderen.
In haar aanbeveling roept de EU-ombudsman, Emily O’Reilly, de Commissie op om “haar besluit te heroverwegen met het oog op het verlenen van substantiële, zo niet volledige, publieke toegang tot de documenten in kwestie”.
“In het licht van de daarmee samenhangende lopende wetgevingsprocedure en de daaruit voortvloeiende tijdsgevoeligheid van deze zaak, heeft de Ombudsman er bij de Commissie op aangedrongen haar aanbeveling snel ten uitvoer te leggen”, voegde ze eraan toe.
De commissie presenteerde haar oorspronkelijke voorstel voor een juridisch kader dat digitale diensten al in mei 2022 zou kunnen verplichten geautomatiseerde technologieën te gebruiken voor het opsporen en melden van bestaande of nieuwe CSAM, en voor het identificeren en rapporteren van kinderpretactiviteiten die zich op hun platforms richten. Het dossier wordt nog steeds actief onderhandeld door de medewetgevers van de EU, het Europees Parlement en de Raad – een factor die de Ombudsman beschouwt als een belangrijke factor voor het implementeren van transparantie om de verantwoording rond de EU-wetgeving aan te moedigen.
Het publiceren van de betwiste documenten “zal het publiek in staat stellen effectiever deel te nemen aan het besluitvormingsproces dat zeer waarschijnlijk rechtstreeks van invloed zal zijn op het dagelijks leven van burgers door hun recht op privacy te beperken”, suggereert ze. “Ten tweede zal transparantie het publiek in staat stellen te onderzoeken wie en wat het betreffende wetgevingsvoorstel heeft geïnformeerd. Belanghebbenden die actief bijdragen mogen dit niet achter gesloten deuren doen.”
Critici suggereerden dat het controversiële voorstel voor het scannen van berichten van de Commissie overmatig werd beïnvloed door lobbyisten die propriëtaire kinderveiligheidstechnologieën promootten en die commercieel zouden kunnen profiteren van wetgeving die geautomatiseerde CSAM-controles verplicht stelt.
Afgelopen najaar kwam tijdens een door de Europese Toezichthouder voor Gegevensbescherming georganiseerd seminar ook een breed scala aan zorgen naar voren dat het voorstel van de Commissie waarschijnlijk zowel ineffectief zal zijn als instrument om seksueel misbruik van kinderen te bestrijden, als een groot risico zou vormen voor de fundamentele vrijheden in een democratische samenleving.
Sindsdien hebben parlementariërs een herziene aanpak van de bestrijding van CSAM gesteund, waarbij naast andere beperkingen de eis voor berichtenplatforms om end-to-end gecodeerde berichten te scannen, zou worden opgeheven. Maar de EU-wetgeving bestaat uit drie richtingen: ze vereisen zowel de steun van de Commissie als van de Raad. Het valt dus nog te bezien waar het CSAM-bestand terecht zal komen.
Toen we maandag werden gevraagd naar de aanbeveling van de Ombudsman dat de Commissie meer van haar gesprekken met Thorne zou publiceren, duurde het tot vandaag (woensdag) voordat de uitvoerende macht van de EU ons een kort antwoord stuurde (zie hieronder). Uit zijn antwoord blijkt dat hij van plan is de tijd te nemen om de bevindingen van de ombudsman over wanbeheer te verwerken, aangezien hij een ruime termijn van ruim twee maanden wil stellen voor een reactie op haar aanbevelingen. Wat niet duidt op een snelle oplossing. Het ruikt meer naar een blikje dat ze op straat hebben gegooid.
Hier is de verklaring, toegeschreven aan de woordvoerder van Binnenlandse Zaken van de Europese Commissie, Anitta Hipper:
De Commissie zal indien nodig en binnen ons juridisch kader toegang tot documenten verlenen. Wat specifiek de aanbeveling van de Ombudsman betreft, zal de Commissie de aanbeveling van de Ombudsman zorgvuldig in overweging nemen. Het antwoord moet uiterlijk 19 maart worden gegeven.
Het wetgevingsvoorstel heeft al voor een nieuwe interne controverse binnen de Commissie gezorgd. Vorig jaar kwam het in de problemen vanwege microtargeting-advertenties, waarbij de afdeling binnenlandse zaken werd opgemerkt terwijl ze op sociaal netwerk X werkten om de wet te promoten. Dit leidde tot een aantal klachten over gegevensbescherming, omdat de gegevens die voor de targeting werden gebruikt gevoelige persoonlijke gegevens leken te bevatten.
In november diende privacygroep noyb een klacht in tegen de Commissie bij haar privacywaakhond, de Europese Toezichthouder voor Gegevensbescherming.
Een intern onderzoek dat door de Commissie is gestart nadat de episode was gemeld, heeft intussen nog geen publieke resultaten opgeleverd. Elke keer dat we de Commissie naar dit onderzoek vroegen, zei ze dat er geen update was.
Het bestaan van een intern onderzoek heeft echter één tastbaar resultaat opgeleverd: de Europese ombudsman weigerde een onderzoek naar microtargeting te openen na een klacht van EP-lid Patrick Breyer afgelopen oktober – in haar antwoord aan parlementslid O’Reilly wees ze op het lopende onderzoek van de Commissie als “reden genoeg” om op dat moment geen onderzoek te doen, schrijft hij: “Ik merk op dat de Commissie in de media heeft uitgelegd dat er interne onderzoeken gaande zijn. Daarom vind ik voorlopig niet genoeg redenen om een onderzoek te openen.”
Tegelijkertijd stemde ze ermee in een onderzoek te openen naar de overplaatsing van twee functionarissen van Europol, het pan-EU-coördinatieagentschap voor wetshandhaving, naar Thorn – na een nieuwe klacht van Breyer over een mogelijk belangenconflict.
“Ik heb besloten een onderzoek te openen om te onderzoeken hoe Europol omging met de overstap van twee voormalige personeelsleden naar functies die verband houden met de strijd tegen online seksueel misbruik van kinderen”, schreef ze. “Als eerste stap heb ik besloten dat het noodzakelijk is om bepaalde documenten in het bezit van Europol te inspecteren in verband met deze postdienstactiviteiten. Ik verwacht deze documenten uiterlijk 15 januari 2024 te ontvangen.”
Het valt nog te bezien wat het onderzoek van de Ombudsman naar de communicatie van Europol met Thorn zal opleveren. (Maar het is misschien geen kleine ironie dat verdere controverse rond het voorstel van de Commissie voor het scannen van berichten wordt aangewakkerd door de toegang (en/of, nou ja, het gebrek daaraan) tot ‘privé’-communicatie tussen EU-instellingen en lobbyisten uit de industrie. De boodschap hier voor beleidsmakers is dat ze alleen kunnen lezen.)
We hebben contact opgenomen met Thorne, maar hij reageerde niet op een verzoek om commentaar op het onderzoek van de ombudsman.
In een onderzoeksjournalistiek artikel dat vorig najaar door BalkanInsight werd gepubliceerd, waarin de lobby van Thorn en de berichtgeving over de communicatie tussen de Commissie en Thorn die haar verslaggevers konden verkrijgen, werd onderzocht, werden vraagtekens gezet bij de mate van invloed op commerciële producenten van kinderveiligheidstechnologie die geld kunnen verdienen aan wetten die de Het scannen van verkregen berichten gebeurt via de creatie van EU-beleid.
“Na zeven maanden van communicatie over toegang tot documenten en de tussenkomst van de Europese Ombudsman heeft de Commissie begin september eindelijk een reeks e-mailuitwisselingen vrijgegeven tussen Johanssons directoraat-generaal Migratie en Binnenlandse Zaken en Thorn”, meldden haar verslaggevers. “Uit de e-mails blijkt een voortdurende en nauwe werkrelatie tussen de twee partijen in de maanden na de introductie van het CSAM-voorstel, waarbij de Commissie herhaaldelijk de toegang van Thorn tot belangrijke besluitvormingslocaties faciliteerde in aanwezigheid van ministers en vertegenwoordigers van de EU-lidstaten.”
De EU-commissaris die leiding gaf aan het voorstel om CSAM te scannen, commissaris voor Binnenlandse Zaken Ylva Johansson, heeft herhaaldelijk de bewering afgewezen dat zij lobbyisten uit de industrie toestond haar voorstel te beïnvloeden.
Naar aanleiding van het BalkanInsight-rapport van vorig jaar, waarin documenten werden aangehaald die waren vrijgegeven in het kader van de Vrijheid van Informatie, werd ontdekt dat functionarissen van Europol tijdens een bijeenkomst met personeel van de Commissie om ongefilterde toegang vroegen tot gegevens die zouden worden verkregen in het kader van het CSAM-scanvoorstel; en dat scansystemen worden gebruikt om andere vormen van criminaliteit op te sporen, niet alleen seksueel misbruik van kinderen.
Critici van het controversiële EU CSAM-scanvoorstel waarschuwen al lang dat zodra surveillancetechnologie is ingebouwd in de privé-berichteninfrastructuur, er druk zal komen op wetshandhavingsinstanties om de reikwijdte van wat wordt gescand uit te breiden.