In de twee jaar dat wetgevers hebben onderhandeld over de regels die vandaag zijn overeengekomen, zijn AI-technologie en de belangrijkste zorgen eromheen dramatisch veranderd. Toen de Wet op de Kunstmatige Intelligentie in april 2021 werd opgesteld, maakten beleidsmakers zich zorgen over ondoorzichtige algoritmen die beslissen wie een baan krijgt, de vluchtelingenstatus krijgt of een uitkering krijgt. In 2022 waren er voorbeelden van AI die mensen actief schaadde. In het Nederlandse schandaal werden beslissingen die door algoritmen werden genomen gekoppeld aan gezinnen die met geweld van hun kinderen werden gescheiden, terwijl studenten voor afstandsonderwijs beweerden dat AI-systemen hen discrimineerden op basis van de kleur van hun huid.
Vervolgens bracht OpenAI in november 2022 ChatGPT uit, waardoor het debat dramatisch veranderde. De sprong in de flexibiliteit en populariteit van AI heeft onrust veroorzaakt bij sommige AI-experts, die hyperbolische vergelijkingen hebben gemaakt tussen AI en kernwapens.
Dat debat heeft zich gemanifesteerd in de onderhandelingen over een wet op kunstmatige intelligentie in Brussel in de vorm van een debat over de vraag of makers van zogenaamde fundamentele modellen, zoals die achter ChatGPT, zoals OpenAI en Google, moeten worden beschouwd als de wortel van potentiële problemen op te lossen en dienovereenkomstig te reguleren – of dat de nieuwe regels zich in plaats daarvan zouden moeten richten op bedrijven die deze onderliggende modellen gebruiken om nieuwe AI-aangedreven applicaties te bouwen, zoals chatbots of beeldgeneratoren.
Vertegenwoordigers van de Europese generatieve AI-industrie hebben hun voorzichtigheid geuit over het reguleren van de onderliggende modellen, omdat ze zeggen dat dit de innovatie onder startups in het AI-blok zou kunnen belemmeren. “We kunnen de motor niet regelen zonder hem te gebruiken”, zegt Arthur Mensch, CEO van het Franse AI-bedrijf Mistral. hij zei vorige maand. “Wij reguleren C. niet [programming] taal omdat het kan worden gebruikt om malware te ontwikkelen. In plaats daarvan verbieden we malware.” Het basismodel van Mistral zou volgens de vandaag overeengekomen regels worden vrijgesteld omdat het bedrijf zich nog in de onderzoeks- en ontwikkelingsfase bevindt, vertelde Carme Artigas, de Spaanse staatssecretaris voor digitalisering en kunstmatige intelligentie, op een persconferentie.
Het belangrijkste punt van onenigheid tijdens de afsluitende discussies deze week, twee keer laat op de avond, was de vraag of wetshandhavers gezichtsherkenning of andere vormen van biometrie mogen gebruiken om mensen in realtime of met terugwerkende kracht te identificeren. “Ze vernietigen allebei de anonimiteit in de openbare ruimte”, zegt Daniel Leufer, senior beleidsanalist bij digitale rechtengroep Access Now. Real-time biometrische identificatie kan een persoon identificeren die momenteel op een treinstation staat met behulp van live beveiligingscamerafeeds, legt hij uit, terwijl ‘post’ of retrospectieve biometrische identificatie kan onthullen dat dezelfde persoon gisteren ook een treinstation, bank en supermarkt heeft bezocht, met behulp van eerder opgeslagen foto’s of video’s.
Leufer zei dat hij teleurgesteld was door de “mazen in de wet” die leken te zijn ingebouwd in de versie van het wetsvoorstel dat vandaag werd afgerond.
De trage reactie van de Europese toezichthouders op de opkomst van het tijdperk van de sociale media doemde op in de discussies. Er zijn bijna twintig jaar verstreken tussen de lancering van Facebook en de goedkeuring van de Digital Services Act – een EU-verordening die is ontworpen om de mensenrechten online te beschermen – die dit jaar van kracht wordt. Destijds werd het blok gedwongen om te gaan met de problemen die door Amerikaanse platforms werden gecreëerd, terwijl het niet in staat was zijn kleinere Europese uitdagers aan te moedigen. ‘Misschien hadden we het kunnen voorkomen [the problems] beter met eerdere regelgeving”, vertelde Brando Benifei, een van de twee hoofdonderhandelaars voor het Europees Parlement, in juli aan WIRED. AI-technologie ontwikkelt zich snel. Maar het zal nog vele jaren duren voordat het mogelijk is om te zeggen of de AI Act succesvoller is in het tegengaan van de nadelen van de nieuwste export van Silicon Valley.