Vrijdag zei OpenAI dat het de accounts van een Iraanse groep had verwijderd omdat ze hun ChatGPT-chatbot hadden gebruikt om inhoud te genereren die bedoeld was om de Amerikaanse presidentsverkiezingen en andere kwesties te beïnvloeden.
De operatie, geïdentificeerd als Storm-2035, gebruikte ChatGPT om inhoud te genereren die was gericht op onderwerpen zoals opmerkingen van kandidaten aan beide kanten van de Amerikaanse verkiezingen, het conflict in Gaza en de aanwezigheid van Israël op de Olympische Spelen, en deelde deze vervolgens via sociale media-accounts. en websites, zei Open AI.
Uit een onderzoek door een door Microsoft gesteund AI-bedrijf is gebleken dat ChatGPT wordt gebruikt om lange artikelen en kortere commentaren op sociale media te genereren.
OpenAI zei dat de operatie geen significante betrokkenheid van het publiek heeft opgeleverd.
De meeste van de geïdentificeerde posts op sociale media kregen weinig of geen likes, shares of reacties, en het bedrijf zag geen aanwijzingen dat de webartikelen op sociale media werden gedeeld.
De accounts mogen geen gebruik meer maken van de diensten van OpenAI en het bedrijf blijft de activiteiten in de gaten houden voor verdere pogingen om de regels te overtreden, aldus het bedrijf.
Eerder in augustus zei een Microsoft-dreigingsinformatierapport dat het Iraanse Storm-2035-netwerk, dat bestaat uit vier websites die zich voordoen als nieuwskanalen, actief groepen Amerikaanse kiezers aan weerszijden van het politieke spectrum engageerde.
De betrokkenheid werd opgebouwd met “polariserende boodschappen over kwesties als Amerikaanse presidentskandidaten, LGBTQ-rechten en het conflict tussen Israël en Hamas”, aldus het rapport.
De Democratische kandidaat Kamala Harris en haar Republikeinse rivaal Donald Trump zijn in een spannende race verwikkeld in de aanloop naar de presidentsverkiezingen van 5 november.
Het kunstmatige-inlichtingenbedrijf zei in mei dat het vijf geheime beïnvloedingsoperaties had verstoord die probeerden zijn modellen te gebruiken voor ‘misleidende activiteiten’ op internet.