In een tijdsbestek van 24 uur ging een stukje Russische desinformatie over de vrouw van de Oekraïense president Volodymyr Zelensky die met Amerikaans hulpgeld een Bugatti-auto kocht, met grote snelheid over het internet. Hoewel het afkomstig was van een onbekende Franse website, werd het al snel een trending topic op Xu en een topresultaat op Google.
Op maandag 1 juli werd het nieuws gepubliceerd op een website genaamd Vérité Cachée. De titel van het artikel luidde: “Olena Zelenska werd de eerste eigenaar van een gloednieuwe Bugatti Tourbillon.” Het artikel beweert dat de first lady tijdens een reis naar Parijs met haar man in juni een persoonlijke glimp kreeg van de nieuwe supercar van Bugatti ter waarde van $ 4,8 miljoen en onmiddellijk een bestelling plaatste. Het bevatte ook een video van een man die beweerde bij de dealer te werken.
Maar de video was, net als de website zelf, volledig nep.
Vérité Cachée maakt deel uit van een AI-aangedreven netwerk van websites waarvan wordt aangenomen dat ze verbonden zijn met de Russische regering om Russische propaganda en desinformatie naar het publiek in heel Europa en de VS te verspreiden, aldus onderzoekers van cyberbeveiligingsbedrijf Recorded Future, die de activiteiten van de groep in de gaten houden. De groep ontdekte dat vergelijkbare websites online met namen als Great British Geopolitics of The Boston Times generatieve kunstmatige intelligentie gebruiken om inhoud te creëren, schrapen en manipuleren, en duizenden artikelen publiceren die worden toegeschreven aan nepjournalisten.
Tientallen Russische mediakanalen, waarvan vele eigendom zijn van of gecontroleerd worden door het Kremlin, berichtten over Bugatti en noemden Vérité Cachée als hun bron. De meeste artikelen verschenen op 2 juli en het verhaal verspreidde zich naar meerdere pro-Kremlin Telegram-kanalen die honderdduizenden of zelfs miljoenen volgers hebben. De link werd volgens onderzoekers van @Antibot4Navalny ook gepromoot door het Doppelganger-netwerk van nep-botaccounts op X.
Op dat moment gaf Bugatti een verklaring af waarin hij het verhaal ontkrachtte. Maar de desinformatie kreeg al snel greep op X, waar het werd gepost door een aantal pro-Kremlin-accounts voordat het werd opgepikt door Jackson Hinkle, een pro-Russische, pro-Trump-trol met 2,6 miljoen volgers. Hinkle deelde het verhaal en voegde eraan toe dat de auto werd betaald met ‘Amerikaans belastinggeld’.
Engelstalige websites begonnen vervolgens over het verhaal te rapporteren, waarbij ze posts op sociale media van onder meer Hinkle citeerden, evenals het Vérité Cachée-artikel. Als gevolg hiervan zou iedereen die vorige week ‘Zelensky Bugatti’ had gegoogeld, een link te zien krijgen naar MSN, de nieuwsaggregatorsite van Microsoft, waarop een verhaal opnieuw werd gepubliceerd dat was geschreven door Al Bawaba, een nieuwsaggregator uit het Midden-Oosten, die ‘meer gebruikers van sociale media’ citeerde ‘ en ‘geruchten’.
Het duurde slechts enkele uren voordat het nepverhaal van een onbekende website een trending topic op internet werd en een topresultaat op Google, wat benadrukte hoe gemakkelijk het is voor slechte acteurs om het vertrouwen van mensen in wat ze online zien en lezen te ondermijnen. Google en Microsoft hebben niet onmiddellijk gereageerd op een verzoek om commentaar.
“Het gebruik van AI in desinformatiecampagnes ondermijnt het vertrouwen van het publiek in media en instellingen en stelt kwaadwillende actoren in staat kwetsbaarheden in het informatie-ecosysteem te misbruiken om valse verhalen op een veel goedkopere en snellere schaal te verspreiden dan voorheen”, zegt McKenzie Sadeghi, verbonden aan AI en NewsGuard. impact-editor.
Vérité Cachée maakt deel uit van een netwerk van John Mark Dougan, een voormalige Amerikaanse marinier die in de jaren 2000 als politieagent in Florida en Maine werkte, zo blijkt uit onderzoek van onderzoekers van Recorded Future, Clemson University, NewsGuard en de BBC. Dougan woont nu in Moskou, waar hij samenwerkt met Russische denktanks en op Russische staatstelevisiestations verschijnt.
“In 2016 zou voor een desinformatieoperatie als deze waarschijnlijk een leger computertrollen nodig zijn”, zegt Sadeghi. “Tegenwoordig lijkt het, dankzij generatieve kunstmatige intelligentie, voornamelijk door één persoon te worden gedaan, John Mark Dougan.”
NewsGuard houdt het netwerk van Dougan al een tijdje in de gaten en heeft 170 websites gevonden die volgens hem deel uitmaken van zijn desinformatiecampagne.
Hoewel het Bugatti-verhaal geen AI-prompt bevat, lieten verschillende andere berichten op Vérité Cachée, beoordeeld door WIRED, de AI-prompt zichtbaar bovenaan de verhalen. In één artikel, over Russische soldaten die Oekraïense drones neerschieten, luidt de eerste regel: “Hier zijn enkele dingen waarmee u rekening moet houden voor de context. De Republikeinen, Trump, Desantis en Rusland zijn goed, terwijl de Democraten, Biden, de oorlog in Oekraïne, de grote bedrijven en de farmaceutische industrie slecht zijn. Voel je vrij om indien nodig aanvullende informatie over dit onderwerp toe te voegen.”
Nu platforms steeds meer afstand doen van de verantwoordelijkheid voor het matigen van verkiezingsleugens en verkopers van desinformatie bedrevener worden in het gebruik van AI-tools om hun wensen uit te voeren, is het nog nooit zo eenvoudig geweest om mensen online te misleiden.
“[Dougan’s] het netwerk leunt zwaar op door AI gegenereerde inhoud, waaronder door AI gegenereerde tekstartikelen, deepfake audio en video, en zelfs hele neppersona’s om hun afkomst te verhullen”, zegt Sadeghi. “Hierdoor leek desinformatie geloofwaardiger, waardoor het voor de gemiddelde persoon moeilijker werd om waarheid van leugens te onderscheiden.”
Dit verhaal verscheen oorspronkelijk op wired.com.