EU bereikt ‘historische’ deal met ‘s werelds eerste wetten ter regulering van AI | Europeese Unie

De eerste alomvattende wetten ter wereld met betrekking tot kunstmatige intelligentie zijn overeengekomen in een baanbrekende overeenkomst na 37 uur durende onderhandelingen tussen het Europees Parlement en de EU-lidstaten.

Thierry Breton, de Europese commissaris die verantwoordelijk is voor een reeks wetten in Europa die ook sociale netwerken en zoekmachines zullen reguleren, waaronder reuzen als X, TikTok en Google, omschreef de overeenkomst als ‘historisch’.

Breton zei dat 100 mensen bijna drie dagen in de zaal waren om de deal te sluiten. Hij zei dat het “een paar uurtjes slaap waard was” om de “historische” deal rond te krijgen.

Carme Artigas, de Spaanse staatssecretaris voor kunstmatige intelligentie, die de onderhandelingen leidde, zei dat Frankrijk en Duitsland de tekst steunen, te midden van berichten dat technologiebedrijven in die landen vechten voor gemakkelijker toegang om innovatie bij kleine bedrijven aan te moedigen.

Het akkoord geeft de EU een voorsprong op de VS, China en Groot-Brittannië in de race om kunstmatige intelligentie te reguleren en het publiek te beschermen tegen risico’s, waaronder de potentiële levensbedreigende risico’s waarvan velen vrezen dat de zich snel ontwikkelende technologie met zich mee zou kunnen brengen.

Ambtenaren hebben weinig details verstrekt over wat er precies zal worden opgenomen in de definitieve wet, die op zijn vroegst in 2025 van kracht zal worden.

Het politieke akkoord tussen het Europees Parlement en de EU-lidstaten over nieuwe wetten om kunstmatige intelligentie te reguleren is een zwaarbevochten strijd geweest, met conflicten over modelfundamenten die eerder voor algemene dan voor specifieke doeleinden zijn ontworpen.

Maar er zijn ook aanhoudende gesprekken over door kunstmatige intelligentie geleide surveillance, die door de politie, werkgevers of winkeliers zou kunnen worden gebruikt om het publiek in realtime vast te leggen en emotioneel leed te herkennen.

Het Europees Parlement heeft een verbod ingesteld op het gebruik van realtime surveillance en biometrische technologieën, inclusief emotionele herkenning, maar met drie uitzonderingen, aldus Breton.

Dit zou betekenen dat de politie invasieve technologieën alleen zou kunnen inzetten bij een onverwachte dreiging van een terroristische aanslag, bij de noodzaak om slachtoffers te zoeken en bij de vervolging van ernstige misdrijven.

EP-lid Brando Benefei, die leiding gaf aan het onderhandelingsteam van het parlement met Dragos Tudorache, het Roemeense parlementslid dat leiding gaf aan de vier jaar durende strijd van het Europees Parlement om kunstmatige intelligentie te reguleren, zei dat ze ook de verzekering kregen dat “onafhankelijke autoriteiten” een licentie voor “voorspellend politiewerk” zouden moeten geven. ter bescherming tegen politiemisbruik en het vermoeden van onschuld bij misdaden.

“We hadden één doel: een wet aannemen die ervoor zal zorgen dat het AI-ecosysteem in Europa wordt ontwikkeld met een mensgerichte aanpak, waarbij de fundamentele rechten en menselijke waarden worden gerespecteerd, vertrouwen wordt opgebouwd en het bewustzijn wordt vergroot over hoe we hier het beste uit kunnen halen. kunstmatige intelligentie. een revolutie die voor onze ogen plaatsvindt”, vertelde hij verslaggevers op een persconferentie die na middernacht in Brussel werd gehouden.

Tudorache zei: ‘We hebben nooit geprobeerd de rechtshandhavingsinstanties de middelen te ontzeggen die ze hebben [the police] de behoeften om de misdaad te bestrijden, de instrumenten die ze nodig hebben om fraude te bestrijden, de instrumenten die ze nodig hebben om burgers een veilig leven te garanderen. Maar wat we wilden – en wat we bereikten – was het verbieden van AI-technologie die zou bepalen of vooraf bepalen wie een misdaad zou kunnen begaan.”

De basis van de overeenkomst is een gelaagd risicogebaseerd systeem waarbij het hoogste niveau van regelgeving van toepassing is op die machines die het grootste risico vormen voor de gezondheid, veiligheid en mensenrechten.

In de oorspronkelijke tekst was het de bedoeling om alle systemen met meer dan 10.000 zakelijke gebruikers mee te nemen.

De grootste risicocategorie wordt nu gedefinieerd door het aantal computertransacties dat nodig is om de machine te trainen, ook wel ‘floating point operations per second’ (flops) genoemd.

Bronnen zeggen dat er slechts één model is, de GPT4, dat onder deze nieuwe definitie zou vallen.

Het wettelijke niveau van regelgeving blijft zware verplichtingen opleggen aan AI-diensten, waaronder basisregels voor de openbaarmaking van de gegevens die het gebruikt om een ​​machine alles te leren, van het schrijven van een krantenartikel tot het diagnosticeren van kanker.

Tudorache zei: “Wij zijn de eersten ter wereld die echte regelgeving invoeren #AIen voor een toekomstige AI-gedreven digitale wereld, waarbij de ontwikkeling en evolutie van deze technologie in een mensgerichte richting wordt geleid.”

Hij zei eerder dat de EU vastbesloten was om niet de fouten uit het verleden te maken, toen technologiereuzen als Facebook mochten uitgroeien tot miljardenbedrijven zonder de inhoud op hun platforms te hoeven reguleren, inclusief verkiezingsinmenging, seksueel misbruik van kinderen en haatzaaiende uitlatingen.

Sterke en alomvattende regelgeving van de EU zou “een sterk precedent kunnen scheppen voor veel regeringen die regelgeving overwegen”, zegt Anu Bradford, hoogleraar aan de Columbia Law School en gespecialiseerd in EU- en digitale regelgeving. Andere landen “kopiëren misschien niet elke bepaling, maar zullen waarschijnlijk veel aspecten ervan imiteren”.

AI-bedrijven die aan de EU-regels moeten voldoen, zullen waarschijnlijk een aantal van die verplichtingen ook uitbreiden naar markten buiten het continent, vertelde Bradford aan de AP. “Uiteindelijk is het niet efficiënt om afzonderlijke modellen voor verschillende markten te hertrainen”, zegt ze.