Het Amerikaanse ministerie van Justitie meldt dat het een door de Russische overheid gesteunde, op kunstmatige intelligentie gebaseerde propagandacampagne heeft verstoord, waarbij gebruik werd gemaakt van een botfarm om desinformatie te verspreiden.
Het Amerikaanse ministerie van Justitie (DOJ) heeft een Russische operatie opgepakt die gebruik maakte van door kunstmatige intelligentie verbeterde nep-socialemedia-accounts om heimelijk pro-Kremlin-boodschappen in de VS en daarbuiten te verspreiden, aldus een verklaring.
Het nieuws van dinsdag komt vier maanden vóór de Amerikaanse presidentsverkiezingen, die volgens veiligheidsexperts het doelwit zullen zijn van zowel hacking als geheime pogingen om sociale media door buitenlandse tegenstanders te beïnvloeden. Hoge Amerikaanse functionarissen hebben publiekelijk gezegd dat ze toezicht houden op plannen die erop gericht zijn de stemming te verstoren.
Het DOJ kreeg toestemming van de rechtbank om twee domeinnamen in beslag te nemen en bijna 1.000 sociale-media-accounts te doorzoeken die naar verluidt verband hielden met de inspanning.
“Door deze acties heeft het ministerie van Justitie een door de Russische overheid gesteunde, door kunstmatige intelligentie ondersteunde propagandacampagne verstoord om een botfarm te gebruiken om desinformatie in de Verenigde Staten en daarbuiten te verspreiden”, zei procureur-generaal Merrick Garland in een verklaring.
De actie van dinsdag was de eerste keer dat de VS een buitenlandse regering publiekelijk beschuldigde van het gebruik van generatieve kunstmatige intelligentie bij een buitenlandse beïnvloedingsoperatie, aldus DOJ- en FBI-functionarissen. Amerikaanse functionarissen hebben gewaarschuwd dat tegenstanders de groeiende kracht van AI-systemen zouden kunnen gebruiken om de inspanningen om desinformatie te verspreiden te vergroten.
Een door het Kremlin gefinancierde inspanning
De vermeende operatie werd volgens aanklagers uitgevoerd via een particuliere inlichtingenorganisatie gevestigd in Rusland, waartoe ook Russische inlichtingenofficieren en een hoge functionaris van het door de overheid gefinancierde Moskouse nieuwskanaal Russia Today (RT) behoorden. Volgens de DOJ werd die inspanning begin 2023 goedgekeurd en gefinancierd door het Kremlin.
Woordvoerders van de Russische ambassade in Washington en RT reageerden niet op verzoeken om commentaar.
De particuliere organisatie ontwierp een op maat gemaakt AI-aangedreven platform om honderden nep-sociale accounts te creëren, controleren en beheren, die er volgens gerechtelijke documenten uitzagen als die van echte Amerikanen.
Accounts op sociale mediaplatform X zijn inmiddels verboden. Ze publiceerden meestal pro-Kremlin-standpunten, waaronder video’s van de Russische president Vladimir Poetin, en bekritiseerden de Oekraïense regering.
De VS werkten samen met de Nederlandse autoriteiten aan het onderzoek. Volgens onderzoekers werd de campagne uitgevoerd vanaf een server in Nederland.