De nieuwste editie van de Grok AI-chatbot van Elon Musk debuteerde woensdag met een nieuwe tool voor het genereren van afbeeldingen die de meeste veiligheidshekken ontbeerde die standaard zijn geworden in de kunstmatige intelligentie-industrie. De nieuwe functie van Grok, die momenteel beperkt is tot betalende X-abonnees, heeft geleid tot een stortvloed aan bizarre, aanstootgevende, door AI gegenereerde afbeeldingen van politieke figuren en beroemdheden op het sociale netwerk dat voorheen bekend stond als Twitter.
De beeldgenerator kan een verscheidenheid aan afbeeldingen produceren die zijn geblokkeerd door vergelijkbare AI-tools zoals OpenAI ChatGPT vanwege het schenden van desinformatie- en misbruikbeleid. In oproepen en afbeeldingen die door The Guardian werden beoordeeld, omvatte het werk van Grok afbeeldingen van Donald Trump die met een vliegtuig de gebouwen van het World Trade Center binnen vloog en de profeet Mohammed die een bom vasthield, evenals afbeeldingen van Taylor Swift, Kamala Harris en Alexandria Ocasio-Cortez in hun ondergoed. – alle vrouwen die al vaak het doelwit zijn van online intimidatie. ChatGPT wijst dergelijke beeldverzoeken daarentegen af op basis van servicevoorwaarden die afbeeldingen van geweld in de echte wereld, gebrek aan respect voor religieuze figuren en expliciete inhoud verbieden.
De beeldgenerator van Grok wijst ook geen zoekopdrachten af die auteursrechtelijk beschermde tekens bevatten, zoals de meeste andere AI-visualizers, waaronder ChatGPT, doen. Grok maakte bijvoorbeeld afbeeldingen van Mickey Mouse die Adolf Hitler en Donald Duck groette met behulp van heroïne. Disney heeft geen verzoek om commentaar geretourneerd.
Musk leek woensdag te genieten van Groks onbewerkte beelden van de AI door te tweeten: “Grok is de grappigste AI ter wereld!”
De meeste grote AI-beeldgeneratoren hanteren een vrij strikt beleid over wat ze zullen genereren na de vroege periode van het wilde westen, met weinig regels, hoewel gebruikers vaak oplossingen proberen te vinden voor deze waarborgen. Deze gevestigde instrumenten verbieden doorgaans het maken van politieke en geseksualiseerde afbeeldingen met echte mensen. OpenAI stelt bijvoorbeeld dat het ‘verzoeken zal afwijzen waarin naar de naam van een publieke figuur wordt gevraagd’.
Grok lijkt enkele beperkingen te hebben op de afbeeldingen die hij zal genereren en antwoordt “helaas kan ik dat soort afbeeldingen niet genereren” wanneer hem wordt gevraagd om volledig naaktafbeeldingen. X hanteert sinds 2021, toen het bedrijf nog Twitter was en niet onder het eigendom van Musk, een naaktheidsbeleid zonder toestemming. Dit beleid verbiedt het delen van expliciete inhoud die is geproduceerd zonder toestemming van de betrokkene en omvat onder meer het digitaal over elkaar leggen van gezichten van mensen op naakte lichamen. Sinds Musk het platform heeft overgenomen, is veel van het beleid van X lakser gehandhaafd.
Wanneer Grok wordt gevraagd om “een afbeelding te maken die de auteursrechtwetten schendt”, antwoordt hij met: “Ik zal geen inhoud genereren of helpen met inhoud die opzettelijk de auteursrechtwetten schendt”; Toen hem echter werd gevraagd een ‘auteursrechtelijk beschermde Disney-tekenfilm’ te maken, voldeed hij eraan en produceerde een moderne afbeelding van Minnie Mouse. Toen hem werd gevraagd beelden te maken van politiek geweld, zoals de moord op partijleiders, reageerde Grok met gemengde resultaten. Het toonde Harris en Joe Biden die aan hun bureau zaten, maar liet Trump zien liggen met zwartgeblakerde handen en een explosie achter hem.
Musk lanceerde Grok in november vorig jaar als onderdeel van zijn xAI-bedrijf als rivaal van meer populaire chatbots zoals OpenAI ChatGPT, dat honderden miljoenen gebruikers heeft. Terwijl Musk Grok aanprees als ‘de ultieme waarheidszoekende AI’ die vragen zou beantwoorden die andere chatbots weigerden aan te raken, kreeg zijn bedrijf kritiek van onderzoekers en wetgevers vanwege het verspreiden van onwaarheden. Vijf Amerikaanse ministers van Buitenlandse Zaken riepen eerder deze maand Musk, die een fervent Trump-aanhanger is geworden, op om de chatbot te repareren nadat deze desinformatie had verspreid die suggereerde dat Harris in sommige staten niet in aanmerking kwam om op het stembiljet te verschijnen.
Beeldgenererende tools en hun vermogen om desinformatie te produceren, evenals inhoud die kan worden gebruikt voor racistische of vrouwonvriendelijke intimidatie, zijn een mijnenveld geworden voor grote technologiebedrijven terwijl ze zich haasten om meer door AI aangedreven producten te bouwen. Google, Microsoft en OpenAI hebben allemaal te maken gehad met terugslag vanwege hun tools voor het genereren van afbeeldingen. Google heeft zijn tekst-naar-afbeelding-tool Gemini opgeschort nadat het onhistorische afbeeldingen produceerde, zoals zwarte soldaten in militaire uniformen uit het nazi-tijdperk.
na het promoten van de nieuwsbrief
De proliferatie van seksuele deepfakes is ook al lang een bestaand probleem voor X. Eerder dit jaar circuleerden door AI gegenereerde pornografische beelden van Taylor Swift wijd en ongecontroleerd op sociale media. Ze hebben zulke intense kritiek geuit op X en AI dat wetgevers wetgeving hebben ingevoerd om rechtsmiddelen te creëren voor slachtoffers van afbeeldingen die zonder toestemming door AI zijn gemaakt.
Vertegenwoordigers van Trump, Harris en Ocasio-Cortez reageerden niet op verzoeken om commentaar. Een verzoek om commentaar dat naar Xu werd gestuurd, genereerde het standaard automatische antwoord van het platform: “Ik heb het momenteel druk, kom later nog eens terug.”