Amerikaanse wetgevers hebben voorgesteld mensen aan te klagen wegens nep-pornografische afbeeldingen van zichzelf, na de verspreiding van expliciete, door AI gegenereerde foto’s van Taylor Swift. De Disrupting Explicit Fake Images and Editing Without Consent Act (DEFIANCE) zou een burgerrecht toevoegen om aan te klagen voor intieme ‘digitale vervalsingen’ waarop een identificeerbare persoon wordt afgebeeld zonder hun toestemming, waardoor slachtoffers financiële schade kunnen verhalen op iedereen die ‘willens en wetens heeft geproduceerd of bezeten’ de afbeelding met de bedoeling deze te verspreiden.
Het wetsvoorstel werd ingediend door de Senaat Meerderheid Whip Dick Durbin (D-IL), die werd vergezeld door Sens. Lindsey Graham (R-SC), Amy Klobuchar (D-MN) en Josh Hawley (R-MO). Het bouwt voort op een bepaling uit de Violence Against Women Act Reauthorization Act van 2022, die een soortgelijk recht toevoegde om te vervolgen Nee-nep-expliciete afbeeldingen. In het kort beschreven de sponsors het als een reactie op de ‘exponentieel’ groeiende hoeveelheid digitaal gemanipuleerde expliciete AI-beelden, waarbij ze de zaak van Swift aanhaalden als een voorbeeld van hoe namaakproducten ‘kunnen worden gebruikt om vrouwen uit te buiten en lastig te vallen – vooral publieke figuren, politici en beroemdheden. “
Beelden die zijn gemanipuleerd door pornografische kunstmatige intelligentie, vaak deepfakes genoemd, zijn in populariteit en verfijning toegenomen sinds de term in 2017 werd bedacht. Kant-en-klare generatieve AI-tools hebben het veel gemakkelijker gemaakt om ze te produceren, zelfs op systemen met beschermende hekken tegen grafische afbeeldingen of nabootsing van identiteit, en zijn gebruikt voor intimidatie en chantage. Maar tot nu toe is er in veel delen van de VS geen duidelijke rechtshulp. Bijna alle staten hebben wetten aangenomen die niet-gesimuleerde pornografie zonder toestemming verbieden, hoewel dit een langzaam proces is geweest. Een veel kleiner aantal heeft wetten met betrekking tot gesimuleerde beelden. (Er is geen federaal strafrecht dat beide typen regelrecht verbiedt.) Maar het maakt deel uit van de AI-reguleringsagenda van president Joe Biden, en perssecretaris van het Witte Huis Karine Jean-Pierre heeft het Congres opgeroepen om nieuwe wetten aan te nemen als reactie op het Taylor-incident Swift vorige week.
De DEFIANCE Act werd ingevoerd als reactie op, maar niet beperkt tot, door AI gegenereerde beelden. Een vervalsing wordt beschouwd als elk ‘intiem’ seksueel beeld (de term gedefinieerd in de kernregel) dat is gecreëerd ‘door software, machinaal leren, kunstmatige intelligentie of enig ander computergegenereerd of technologisch middel… zodat het voor een redelijk persoon niet te onderscheiden is. van een authentieke visuele representatie van een individu.” Dit omvat echte afbeeldingen die zijn aangepast om er seksueel expliciet uit te zien. De taal lijkt te verwijzen naar oudere tools zoals Photoshop, zolang het resultaat maar realistisch genoeg is. Het toevoegen van een sticker die de afbeelding als niet-authentiek markeert, neemt ook de verantwoordelijkheid niet weg.
Leden van het Congres hebben talloze wetsvoorstellen ingediend over kunstmatige intelligentie en pornografie zonder wederzijdse toestemming, waarvan de meeste nog moeten worden aangenomen. Eerder deze maand introduceerden wetgevers de Prohibit AI FRAUD Act, een extreem breed verbod op het gebruik van technologie om zich voor te doen als iemand zonder toestemming. De algemene regel voor verkeerde voorstelling van zaken roept grote vragen op over artistieke expressie; het zou machtige figuren in staat kunnen stellen een aanklacht in te dienen voor politieke parodieën, heropvoeringen of creatieve fictieve behandelingen. De DEFIANCE Act zou een aantal van dezelfde kwesties aan de orde kunnen stellen, maar is aanzienlijk beperkter – hoewel er nog steeds sprake is van een zware strijd om erdoor te komen.