Advocaat van San Francisco, David Chiu, heeft een rechtszaak aangespannen om zestien van de populairste websites en apps te sluiten waarmee gebruikers foto’s kunnen ‘naakte’ of ‘verwijderen’ van voornamelijk vrouwen en meisjes die steeds vaker worden lastiggevallen en uitgebuit door slechte acteurs online.
De sites, zo beweert Chiu’s rechtszaak, zijn ‘opzettelijk’ ontworpen om ‘nep-naaktafbeeldingen van vrouwen en meisjes te maken zonder hun toestemming’, waarbij ze opscheppen dat elke gebruiker elke foto kan uploaden om ‘iemand naakt te zien’ met behulp van technologie die op realistische wijze de gezichten van mensen verandert. echte slachtoffers van expliciete beelden gegenereerd door kunstmatige intelligentie.
“In Californië en in het hele land is er een scherpe toename geweest van het aantal vrouwen en meisjes dat wordt lastiggevallen en het slachtoffer wordt van door AI gegenereerde ‘niet-consensuele intieme beelden (NCII)’ en ‘deze verontrustende trend vertoont geen tekenen van afname’. Chiu’s pak zei.
“Gezien de wijdverbreide beschikbaarheid en populariteit” van nudificatiesites, “worden San Franciscanen en Californiërs geconfronteerd met de dreiging dat zij of hun dierbaren op deze manier het slachtoffer kunnen worden”, waarschuwt Chiu in de rechtszaak.
Op een persconferentie zei Chiu dat deze ‘eerste rechtszaak in zijn soort’ was aangespannen om niet alleen Californiërs te verdedigen, maar ‘een schokkend aantal vrouwen en meisjes over de hele wereld’ – van beroemdheden als Taylor Swift tot middelbare en middelbare scholieren. meisjes. Als de stadsambtenaar zegeviert, riskeert elke nudificatiesite een boete van $ 2.500 voor elke geconstateerde overtreding van de Californische wet op de consumentenbescherming.
Naast berichten in de media over de schade veroorzaakt door kunstmatige intelligentie, heeft de politie zich aangesloten bij de oproep om zogenaamde deepfakes te verbieden.
Chiu zei dat schadelijke deepfakes vaak worden gemaakt ‘met behulp van open-source AI-modellen voor het genereren van afbeeldingen’, zoals eerdere versies van Stable Diffusion, die kunnen worden gepolijst of ‘verfijnd’ om foto’s van vrouwen en meisjes die vaak uit de kast worden gehaald, gemakkelijk te ‘uitkleden’. sociale netwerken. Hoewel latere versies van Stable Diffusion dergelijke ‘verontrustende’ vormen van misbruik veel moeilijker maken, merkten stadsfunctionarissen van San Francisco op een persconferentie op dat eerdere versies van Stable Diffusion, die kunnen worden verfijnd, nog steeds overal beschikbaar zijn voor misbruik door slechte actoren. .
Alleen al in de VS zijn politieagenten momenteel zo verzand in berichten over nep-AI-kinderseksbeelden dat het moeilijk wordt om offline gevallen van kindermisbruik te onderzoeken, en de verwachting is dat deze AI-zaken “exponentieel” zullen blijven groeien. Misbruik van kunstmatige intelligentie is zo wijdverspreid geworden dat “de FBI heeft gewaarschuwd voor de opkomst van afpersingsplannen waarbij gebruik wordt gemaakt van door kunstmatige intelligentie gegenereerde pornografie zonder wederzijds goedvinden”, zei Chiu op een persconferentie. “En de impact op de slachtoffers was verwoestend”, waarbij “hun reputatie en hun geestelijke gezondheid werden beschadigd”, waardoor een “verlies aan autonomie” werd veroorzaakt en “in sommige gevallen ertoe werd geleid dat individuen suïcidaal werden.”
Chiu klaagt namens de burgers van de staat Californië een gerechtelijk bevel aan dat site-eigenaren verplicht te stoppen met het exploiteren van “alle websites die zij bezitten of exploiteren en die in staat zijn om niet-consensuele, door AI gegenereerde intieme beelden van identificeerbare individuen te creëren.” Dat is de enige manier, zei Chiu, dat deze sites “verantwoordelijk kunnen worden gehouden voor het creëren en verspreiden van door kunstmatige intelligentie gegenereerde NCII van vrouwen en meisjes en voor het helpen en aanmoedigen van anderen bij het plegen van dit gedrag.”
Hij wil ook een bevel dat “elke domeinnaamregistreerder, domeinnaamregisters, webhosts, betalingsverwerkers of bedrijven die gebruikersauthenticatie- en autorisatiediensten of interfaces leveren” verplicht om de nudificatie van website-exploitanten te “beperken” om nieuwe websites te lanceren, wat verdere ontwikkeling zou verhinderen. wangedrag.
Chiu’s rechtszaak redigeert de namen van de schadelijkste sites die door zijn onderzoek aan het licht zijn gekomen, maar beweert dat die sites in de eerste zes maanden van 2024 “meer dan 200 miljoen keer zijn bezocht”.
Hoewel slachtoffers doorgaans weinig verhaal hebben, gelooft Chiu dat staats- en federale wetten die neppornografie, wraakpornografie en kinderpornografie verbieden, evenals de oneerlijke concurrentiewet van Californië, kunnen worden gebruikt om alle zestien sites offline te halen. Chiu verwacht dat de overwinning zal dienen als een waarschuwing voor andere exploitanten van nudificatiesites dat er waarschijnlijk nog meer verwijderingen zullen volgen.
“We dienen deze rechtszaak in om deze websites te sluiten, maar we willen ook alarm slaan”, vertelde Chiu op een persconferentie. “Generatieve AI houdt een enorme belofte in, maar zoals bij alle nieuwe technologieën zijn er onbedoelde gevolgen en proberen criminelen deze uit te buiten. We moeten duidelijk zijn dat dit geen innovatie is. Dit is seksueel misbruik.”