Amerikaanse functionarissen zeggen dat ze hard hebben opgetreden tegen een door AI aangedreven inlichtingenoperatie die vanuit Rusland is gelanceerd, waaronder bijna duizend accounts die zich voordoen als Amerikanen.
De X-accounts waren ontworpen om pro-Russische verhalen te verspreiden, maar waren geautomatiseerde ‘bots’ – geen echte mensen.
In gerechtelijke documenten die dinsdag zijn vrijgegeven, zegt het Amerikaanse ministerie van Justitie dat de operatie het brein was van de adjunct-hoofdredacteur van RT, voorheen Russia Today, dat eigendom is van het Kremlin.
RT heeft tv-kanalen in het Engels en verschillende andere talen, maar lijkt veel populairder op sociale media dan op conventionele ethergolven.
Het ministerie van Justitie heeft twee websites in beslag genomen die worden gebruikt om e-mails te verzenden die aan de botaccounts zijn gekoppeld, en heeft Xu opgedragen informatie over 968 accounts te overhandigen waarvan onderzoekers zeggen dat het bots zijn.
Volgens gerechtelijke documenten werd kunstmatige intelligentie gebruikt om de accounts aan te maken, die vervolgens pro-Russische verhalen verspreidden, vooral over de oorlog in Oekraïne.
“De acties van vandaag vertegenwoordigen de eerste stappen in het ontwrichten van een generatieve, door Rusland gesponsorde botfarm voor sociale media”, aldus FBI-directeur Christopher Wray.
“Rusland was van plan deze botboerderij te gebruiken om door AI gegenereerde buitenlandse desinformatie te verspreiden, en zo zijn door AI ondersteunde werk uit te breiden om onze partners in Oekraïne te ondermijnen en geopolitieke verhalen te beïnvloeden die gunstig zijn voor de Russische regering”, zei Wray in een verklaring.
X lijkt de accounts te hebben verwijderd, en uit screenshots die door FBI-onderzoekers zijn gedeeld blijkt dat ze heel weinig volgers hebben.
Gerechtsdocumenten beschrijven hoe de zogenaamde ‘botfarm’ het geesteskind was van de plaatsvervangend hoofdredacteur van RT, die op zoek was naar nieuwe manieren om verhalen te verspreiden. RT America werd gesloten toen verschillende grote Amerikaanse kabelaanbieders het stopzetten kort na de Russische invasie van Oekraïne in 2022.
Een andere RT-medewerker ontwikkelde het netwerk, volgens gerechtelijke documenten, en een Russische inlichtingenofficier sloot zich later aan bij de inspanning, die het ministerie van Justitie typeerde als een poging “om onenigheid in de Verenigde Staten te zaaien door desinformatie te verspreiden.”
In deze zaak zijn geen strafrechtelijke vervolgingen bekend gemaakt, maar het ministerie van Justitie heeft aangegeven dat er een onderzoek loopt.
Nina Jankowicz, hoofd van het Amerikaanse Sunlight Project, een non-profitorganisatie die de verspreiding van desinformatie probeert tegen te gaan, zei dat het niet verrassend is dat een aan Rusland gelinkte operatie afhankelijk is van AI om nepaccounts te creëren.
“Vroeger was dit een van de tijdrovender onderdelen van hun werk; nu hebben de technologieën die deze operatie hebben aangewakkerd het veel gemakkelijker gemaakt”, zei ze, en merkte op dat de operatie lijkt te zijn gedwarsboomd voordat deze grip kon krijgen.
“Kunstmatige intelligentie maakt nu duidelijk deel uit van het desinformatiearsenaal”, zei mevrouw Jankowicz.
De BBC heeft contact opgenomen met X, RT en het Russische ministerie van Buitenlandse Zaken voor commentaar.
Een recent BBC-onderzoek onthulde details van een afzonderlijke poging om een in Rusland gevestigd desinformatienetwerk te versterkenmet behulp van nepnieuws vol verhalen getranscribeerd door AI.