In deze fotoillustratie wordt de startpagina van OpenAI’s ChatGPT-app weergegeven op een laptopscherm op 3 februari 2023. Deze week zei OpenAI dat het zijn eigen AI-modellen gebruikt om geheime beïnvloedingsoperaties te detecteren.
Leon Neal/Getty Images Europa
onderschrift verbergen
ondertiteling wisselen
Leon Neal/Getty Images Europa
OpenAI zegt dat het een cluster van ChatGPT-accounts heeft verboden nadat het bewijs had gevonden dat gebruikers verbonden zijn met een Iraanse groep die probeert verdeeldheid te zaaien onder de Amerikaanse kiezers.
In een verklaring op vrijdag zei OpenAI dat het online artikelen en reacties op sociale media heeft ontdekt die zijn gemaakt met behulp van ChatGPT. De inhoud bereikte niet veel, maar concentreerde zich op een reeks kwesties die verdeeldheid zaaiden, waaronder de Amerikaanse presidentsverkiezingen, de oorlog van Israël in Gaza en de aanwezigheid van Israël op de Olympische Spelen. Door AI gegenereerde materialen dienden zowel een progressief als een conservatief publiek.
“Deze operatie lijkt geen significante betrokkenheid van het publiek te hebben opgeleverd. De meeste berichten op sociale media die we hebben geïdentificeerd, hebben weinig of geen likes, deelacties of reacties ontvangen”, aldus OpenAI.
Uit het onderzoek bleek dat lange artikelen, gegenereerd door kunstmatige intelligentie, werden gepubliceerd op websites die zich voordeden als nieuwsmedia. Ondertussen zei OpenAI dat de nu verboden accounts opmerkingen op sociale media aan het schrijven waren – zowel in het Engels als in het Spaans – waarbij ChatGPT werd gevraagd om opmerkingen te herschrijven die al door andere gebruikers van sociale media waren geplaatst.
“Ze wisselden hun politieke inhoud af met opmerkingen over mode en beauty, vermoedelijk om authentieker over te komen of in een poging volgers te krijgen”, aldus het bedrijf.
Het interne onderzoek van OpenAI komt een week nadat een rapport van het Threat Analysis Center van Microsoft aantoonde hoe groepen die banden hebben met de Iraanse regering een reeks online tactieken gebruiken in een poging zich te bemoeien met de Amerikaanse presidentsverkiezingen.
Een dag nadat Microsoft het rapport had vrijgegeven, zei de presidentiële campagne van Donald Trump dat het was gehackt en beschuldigde het Iraanse actoren ervan gevoelige interne documenten te hebben gestolen. De campagne leverde geen concreet bewijs op. Woensdag maakte de Google Threat Analysis Group bekend dat het een phishing-operatie van Iraanse hackers had ontdekt en verstoord, gericht op zowel de Trump- als Biden-Harris-campagnes.
Wat is het motief achter de aan Iran gekoppelde operatie?
OpenAI zei dat de accounts verband hielden met een geheime operatie die bekend staat als Storm-2035. Vorige week ontdekten Microsoft-onderzoekers dat dezelfde groep achter vier websites zat die zich voordeden als Amerikaanse media.
De nepsites hebben polariserende boodschappen versterkt over dringende kwesties die verband houden met LGBTQ-rechten en het conflict tussen Israël en Hamas. Het doel is om chaos te veroorzaken en Amerikaanse kiezers te polariseren voorafgaand aan de verkiezingsdag, zegt Clint Watts, algemeen directeur van het Threat Analysis Center van Microsoft.
“Iran is alleen gefocust op het verstoren van de mogelijkheid om verkiezingen te houden”, vertelde Watts vorige week aan NPR.
Zowel Microsoft als OpenAI meldden dat websites en door AI gegenereerde inhoud niet veel pageviews of veel online betrokkenheid opleverden.