Het OpenAI-logo wordt weergegeven op een mobiele telefoon met een afbeelding op een computermonitor gemaakt door ChatGPT’s Dall-E tekst-naar-afbeelding-model op 8 december 2023 in Boston.
Michael Dwyer/AP
Onderschrift verbergen
Schakel bijschriften in
Michael Dwyer/AP
Het OpenAI-logo wordt weergegeven op een mobiele telefoon met een afbeelding op een computermonitor gemaakt door ChatGPT’s Dall-E tekst-naar-afbeelding-model op 8 december 2023 in Boston.
Michael Dwyer/AP
LONDEN – Onderhandelaars van de Europese Unie hebben vrijdag een akkoord bereikt over ‘s werelds eerste alomvattende regulering op het gebied van kunstmatige intelligentie, waarmee de weg wordt vrijgemaakt voor juridisch toezicht op AI-technologieën die beloven het dagelijks leven te transformeren en te waarschuwen voor existentiële gevaren voor de mensheid.
Onderhandelaars in het Europees Parlement en de 27 lidstaten van het blok hebben grote meningsverschillen over controversiële punten overwonnen, waaronder het gebruik van generatieve AI en politie-gezichtsherkenningstoezicht om een voorlopig politiek akkoord over de wetgeving inzake kunstmatige intelligentie te ondertekenen.
“Overeenkomst!” Dat twitterde Europees commissaris Thierry Breton vlak voor middernacht. “De EU is het eerste continent dat duidelijke regels ontwikkelt voor het gebruik van AI.”
De resultaten kwamen deze week na marathongesprekken achter gesloten deuren, waarbij de voorbereidende sessie 22 uur duurde voordat de tweede ronde op vrijdagochtend begon.
Ambtenaren stonden onder vuur om een politieke overwinning voor de vlaggenschipwet veilig te stellen. Groepen uit het maatschappelijk middenveld hebben het echter lauw onthaald, omdat ze wachten op technische details die de komende weken moeten worden opgelost. Ze zeiden dat de overeenkomst niet ver genoeg ging in het beschermen van mensen tegen schade veroorzaakt door AI-systemen.
“Het politieke akkoord van vandaag markeert het begin van belangrijk en noodzakelijk technisch werk aan belangrijke details van de AI-wet, die nog steeds ontbreken”, zegt Daniel Friedlander, hoofd van het Europese kantoor van de Computer and Communications Industry Association, een lobbygroep voor de technologie-industrie. groep.
De EU nam al vroeg het voortouw in de mondiale race om een AI-hek te bouwen toen zij in 2021 het eerste ontwerp van haar rulebook onthulde. Maar de recente opkomst van generatieve AI zorgt ervoor dat Europese functionarissen zich haasten om een voorstel bij te werken dat als blauwdruk voor de wereld moet dienen.
Het Europees Parlement moet begin volgend jaar nog over de wetgeving stemmen, maar nu de deal rond is, is dat een formaliteit, vertelde Brando Benifei, een Italiaans parlementslid die mede leiding geeft aan de onderhandelingsinspanningen van de organisatie, eind vrijdag aan The Associated Press.
“Het is geweldig”, zei ze via sms nadat haar werd gevraagd of het bevatte wat ze wilde. “Het is duidelijk dat we een aantal compromissen moesten accepteren, maar over het algemeen heel goed.” De definitieve wet zal pas in 2025 volledig van kracht worden en dreigt met zware financiële sancties voor overtredingen tot 35 miljoen euro ($38 miljoen) of 7% van de wereldwijde omzet van een bedrijf.
Generatieve AI-systemen zoals OpenAI’s ChatGPT zijn in het bewustzijn van de wereld geëxplodeerd en hebben gebruikers verbaasd met hun vermogen om mensachtige tekst, afbeeldingen en muziek te produceren, maar de snel evoluerende technologie heeft angst doen ontstaan over risico’s voor banen, privacy en auteursrechtbescherming, en zelfs voor menselijke bescherming. leeft. . zichzelf
Nu komen mondiale allianties zoals de VS, Groot-Brittannië, China en de Groep van 7 grote democratieën tussenbeide met hun eigen voorstellen om AI te reguleren, hoewel ze Europa nog steeds aan het inhalen zijn.
Sterke en alomvattende regels van de EU “kunnen een sterk precedent scheppen voor veel regeringen die regulering overwegen”, zegt Anu Bradford, hoogleraar aan de Columbia Law School en gespecialiseerd in EU-recht en digitale regulering. Andere landen “kopiëren misschien niet elke bepaling, maar zullen er waarschijnlijk veel aspecten van imiteren.”
AI-bedrijven die aan EU-regels onderworpen zijn, zullen een aantal van die verplichtingen tot buiten het continent uitbreiden, zei hij. “Uiteindelijk is het niet efficiënt om afzonderlijke modellen voor verschillende markten te herscholen”, zei hij.
De AI-wet is oorspronkelijk ontworpen om de gevaren van bepaalde AI-functies op basis van hun risiconiveau te verminderen, van laag naar onaanvaardbaar. Maar wetgevers hebben aangedrongen om het uit te breiden naar het basismodel, het geavanceerde systeem dat ten grondslag ligt aan AI-diensten voor algemeen gebruik, zoals ChatGPT en de Bard-chatbot van Google.
Funderingsmodellen lijken een van de grootste knelpunten voor Europa. Ondanks tegenstand onder leiding van Frankrijk slaagden de onderhandelaars er echter al vroeg in de gesprekken in een voorlopig compromis te bereiken, waarbij werd opgeroepen tot zelfregulering in plaats van zelfregulering om Europese generatieve AI-bedrijven te helpen concurreren met grote Amerikaanse rivalen, waaronder OpenAI-ondersteuner Microsoft.
Deze systemen, ook wel grote taalmodellen genoemd, zijn getraind op enorme hoeveelheden tekst en afbeeldingen die van internet zijn geplukt. Ze stellen generatieve AI-systemen in staat om iets nieuws te creëren, in tegenstelling tot traditionele AI, die gegevens verwerkt en taken voltooit met behulp van vooraf gedefinieerde regels.
Organisaties die basismodellen ontwikkelen, moeten technische documentatie opstellen, voldoen aan de EU-auteursrechtwetgeving en de inhoud die voor training wordt gebruikt gedetailleerd beschrijven. De meeste geavanceerde basismodellen die een ‘systeemrisico’ met zich meebrengen, zullen aan extra onderzoek worden onderworpen, waaronder het beoordelen en beperken van die risico’s, het rapporteren van kritieke incidenten, het implementeren van cyberbeveiligingsmaatregelen en het rapporteren over hun energie-efficiëntie.
Onderzoekers waarschuwen dat krachtige basismodellen, gebouwd door een handvol grote technologiebedrijven, kunnen worden gebruikt voor online verwarring en manipulatie, cyberaanvallen of de creatie van biowapens.
Rechtengroepen waarschuwen ook dat een gebrek aan transparantie over de gegevens die worden gebruikt om de modellen te trainen een risico vormt voor het dagelijks leven, omdat ze dienen als basiskader voor softwareontwikkelaars om door AI aangedreven diensten te bouwen.
Het knelpunt werd het AI-aangedreven bewakingssysteem voor gezichtsherkenning, en de onderhandelaars vonden na intensief onderhandelen een compromis.
Europese wetgevers hebben opgeroepen tot een totaal verbod op het publieke gebruik van gezichtsscans en andere systemen voor ‘biometrische identificatie op afstand’ vanwege privacyoverwegingen. Maar regeringen in de lidstaten zijn erin geslaagd uitzonderingen te onderhandelen die wetshandhavers kunnen gebruiken om ernstige misdaden zoals seksuele uitbuiting van kinderen of terroristische aanslagen aan te pakken.
Rechtengroepen hebben gezegd dat ze zich zorgen maken over uitzonderingen en andere grote mazen in de AI-wet, waaronder het gebrek aan waarborgen voor AI-systemen die worden gebruikt bij migratie- en grenscontroles en de mogelijkheid voor ontwikkelaars om zich af te melden voor de classificatie van hun systemen als hoogstaand. risico.
“Ongeacht de overwinning in deze laatste onderhandelingen is de realiteit dat er enorme tekortkomingen in deze definitieve tekst zullen blijven bestaan”, zegt Danielle Leupfer, senior beleidsanalist bij de digitale rechtengroep Access Now.