De gouverneur van Californië, Gavin Newsom, overweegt momenteel 38 wetsvoorstellen met betrekking tot kunstmatige intelligentie, waaronder de zeer controversiële SB 1047, die de staatswetgever ter definitieve goedkeuring naar zijn bureau heeft gestuurd. Deze wetsvoorstellen proberen de meest urgente problemen op het gebied van kunstmatige intelligentie aan te pakken: alles van futuristische AI-systemen die existentiële risico’s creëren, diepgaande daden van AI-beeldgeneratoren, tot Hollywood-studio’s die AI-klonen van dode artiesten creëren.
“Als thuisbasis van de meeste van ‘s werelds toonaangevende bedrijven op het gebied van kunstmatige intelligentie, werkt Californië eraan om deze transformatieve technologieën te benutten om dringende uitdagingen op te lossen en tegelijkertijd de risico’s die ze met zich meebrengen te bestuderen”, aldus het kantoor van gouverneur Newsom in een verklaring.
Tot nu toe heeft gouverneur Newsom acht wetsvoorstellen ondertekend, waarvan sommige de meest verstrekkende Amerikaanse AI-wetten zijn.
Deepfake naakten
Donderdag ondertekende Newsom twee wetsvoorstellen die betrekking hebben op het creëren en verspreiden van deepfakes. SB 926 stelt deze handeling strafbaar, waardoor het illegaal wordt om iemand te chanteren met door AI gegenereerde naaktbeelden die op hem of haar lijken.
SB 981, die donderdag ook wet werd, vereist dat sociale-mediaplatforms kanalen opzetten waar gebruikers deepfakes kunnen melden die op hen lijken. De inhoud moet vervolgens tijdelijk worden geblokkeerd terwijl het platform deze onderzoekt en definitief worden verwijderd als dit wordt bevestigd.
Watermerken
Donderdag ondertekende Newsom ook wetgeving om het publiek te helpen inhoud te identificeren die door kunstmatige intelligentie is gegenereerd. SB 942 vereist dat veelgebruikte generatieve AI-systemen onthullen dat ze door AI zijn gegenereerd in gegevens over de oorsprong van hun inhoud. Alle afbeeldingen die door OpenAI’s Dall-E zijn gemaakt, hebben nu bijvoorbeeld een kleine tag in hun metadata nodig die zegt dat ze zijn gegenereerd door kunstmatige intelligentie.
Veel AI-bedrijven doen dit al, en er zijn verschillende gratis tools die mensen kunnen helpen deze herkomstgegevens te lezen en door AI gegenereerde inhoud te ontdekken.
Verkiezingsfakers
Eerder deze week ondertekende de gouverneur van Californië drie wetsvoorstellen om AI-deepfakes aan te pakken die de verkiezingen zouden kunnen beïnvloeden.
Een van de nieuwe wetten van Californië, AB 2655, vereist dat grote internetplatforms, zoals Facebook en X, verkiezingsgerelateerde AI-deepfakes verwijderen of markeren, en kanalen creëren om dergelijke inhoud te melden. Kandidaten en gekozen functionarissen kunnen een rechterlijk bevel verzoeken als een groot onlineplatform zich niet aan de wet houdt.
Een ander wetsvoorstel, AB 2839, richt zich op gebruikers van sociale media die AI-deepfakes posten of opnieuw posten die kiezers zouden kunnen misleiden over de komende verkiezingen. De wet werd dinsdag onmiddellijk van kracht en Newsom suggereerde dat Elon Musk het risico zou lopen deze te overtreden.
Door AI gegenereerde politieke advertenties vereisen nu volledige openbaarmaking onder een nieuwe Californische wet, AB 2355. Dit betekent dat Trump in de toekomst misschien niet meer weg kan komen met het plaatsen van AI-deepfakes over Taylor Swift die hem steunt op Truth Social (zij steunde Kamala Harris) . De FCC heeft op nationaal niveau een soortgelijke openbaarmakingsvereiste voorgesteld en heeft robocalls met behulp van door AI gegenereerde stemmen al illegaal gemaakt.
Acteurs en AI
De twee wetsvoorstellen die Newsom dinsdag ondertekende – verdedigd door SAG-AFTRA, de grootste unie van film- en televisieacteurs van het land – creëren nieuwe normen voor de Californische media-industrie. AB 2602 vereist dat studio’s toestemming krijgen van een acteur voordat ze een door AI gegenereerde replica van hun stem of gelijkenis kunnen maken.
Ondertussen verbiedt AB 1836 studio’s om digitale replica’s van overleden artiesten te maken zonder de toestemming van hun nalatenschappen (wettelijk geautoriseerde replica’s werden bijvoorbeeld gebruikt in de recente Alien- en Star Wars-films, evenals in andere films).
Wat is er nog over?
Gouverneur Newsom moet nog vóór eind september een besluit nemen over dertig stukken AI-gerelateerde wetgeving. Tijdens een gesprek met Salesforce-CEO Marc Benioff dinsdag tijdens de Dreamforce-conferentie van 2024 heeft Newsom wellicht zijn hoed op SB 1047 gezet en hoe hij denkt over het uitbreiden van de regulering van de AI-industrie.
“Er is één wetsvoorstel dat op de een of andere manier te groot is in termen van publiek debat en bewustzijn; het is deze SB 1047”, zei Newsom dinsdag op het podium. “Wat zijn de aantoonbare risico’s bij AI en wat zijn de hypothetische risico’s? Ik kan niet alles oplossen. Wat kunnen we oplossen? En dat is de aanpak die we over het hele spectrum van deze kwestie volgen.”
Kijk terug naar dit artikel voor updates over welke AI-facturen de gouverneur van Californië ondertekent en welke niet.