Woensdag publiceerde OpenAI een conceptdocument waarin wordt uiteengezet hoe het wil dat ChatGPT en zijn andere AI-technologie zich gedragen. Een deel van het lange Model Spec-document onthult dat het bedrijf een sprong naar pornografie en andere expliciete inhoud onderzoekt.
Het gebruiksbeleid van OpenAI verbiedt momenteel seksueel expliciet of zelfs suggestief materiaal, maar een “commentaar” in de sectie Modelspecificaties over die regel zegt dat het bedrijf overweegt hoe dergelijke inhoud kan worden toegestaan.
“We onderzoeken of we op verantwoorde wijze de mogelijkheid kunnen bieden om NSFW-inhoud te genereren in een voor de leeftijd geschikte context via de API en ChatGPT”, aldus de notitie, waarbij een informele term werd gebruikt voor inhoud die in contexten als “niet veilig voor gebruik” wordt beschouwd. “We kijken ernaar uit om de verwachtingen van gebruikers en de samenleving ten aanzien van modelgedrag op dit gebied beter te begrijpen.”
Het Model Specifications-document zegt dat NSFW-inhoud “erotiek, extreme bloedvergieten, godslastering en ongevraagde godslastering kan omvatten.” Het is onduidelijk of het onderzoek van OpenAI naar het verantwoord maken van NSFW-inhoud slechts een lichte versoepeling van het gebruiksbeleid voorziet, bijvoorbeeld om het creëren van erotische tekst toe te staan, of breder om beschrijvingen of afbeeldingen van geweld toe te staan.
In antwoord op vragen van WIRED zei OpenAI-woordvoerster Grace McGuire dat de Model Spec een poging is om “meer transparantie in het ontwikkelingsproces te brengen en een dwarsdoorsnede van perspectieven en feedback te krijgen van het publiek, beleidsmakers en andere belanghebbenden. Ze weigerde details te delen over wat OpenAI’s expliciete onderzoek naar het genereren van inhoud inhoudt of welke feedback het bedrijf op het idee heeft ontvangen.
Mira Murati, chief technology officer van OpenAI, zei eerder dit jaar De Wall Street Journal dat ze “niet zeker” is of het bedrijf in de toekomst zal toestaan dat naaktshows worden gemaakt met behulp van de Sora-tool voor het genereren van video’s van het bedrijf.
Door AI gegenereerde pornografie is snel uitgegroeid tot een van de grootste en meest zorgwekkende toepassingen van het soort generatieve AI-technologie dat door OpenAI is ontwikkeld. Zogenaamde deepfake-pornografie – expliciete afbeeldingen of video’s gemaakt door AI-tools die echte mensen afbeelden zonder hun toestemming – is een veelgebruikt middel geworden om vrouwen en meisjes lastig te vallen. In maart meldde WIRED wat de eerste Amerikaanse minderjarigen leken te zijn die waren gearresteerd wegens het zonder toestemming verspreiden van AI-gegenereerde naaktfoto’s, nadat de politie van Florida twee tieners had aangeklaagd voor het maken van afbeeldingen van mede-middelbare scholieren.
“Schendingen van de intieme privacy, waaronder diep nep-seksvideo’s en andere gesynthetiseerde intieme beelden zonder toestemming, zijn wijdverbreid en zeer schadelijk”, zegt Danielle Keats Citron, een professor aan de University of Virginia School of Law die de kwestie heeft bestudeerd. “We hebben nu duidelijke empirische ondersteuning waaruit blijkt dat dergelijk misbruik zich richt op belangrijke kansen voor individuen, waaronder werk, spraak en fysieke veiligheid.”
Citron noemt de mogelijke acceptatie door OpenAI van expliciete AI-inhoud ‘alarmerend’.
Omdat het gebruiksbeleid van OpenAI nabootsing zonder toestemming verbiedt, zouden expliciete afbeeldingen zonder toestemming verboden blijven, zelfs als het bedrijf makers toestond NSFW-materiaal te genereren. Maar het valt nog te bezien of het bedrijf expliciete generatie effectief kan beperken om te voorkomen dat slechte actoren de tools gebruiken. Microsoft heeft wijzigingen aangebracht in een van zijn generatieve AI-tools nadat 404 Media onthulde dat deze werd gebruikt om expliciete afbeeldingen van Taylor Swift te maken die werden verspreid op sociale mediaplatform X.
Aanvullende rapportage door Reece Rogers