China zal dit jaar proberen de verkiezingen in de VS, Zuid-Korea en India te verstoren met door kunstmatige intelligentie gegenereerde inhoud nadat het een dry run had gemaakt bij de presidentsverkiezingen in Taiwan, waarschuwde Microsoft.
Een Amerikaans technologiebedrijf zei dat het verwacht dat Chinese door de staat gesteunde cybergroepen zich zullen richten op spraakmakende verkiezingen in 2024 waarbij Noord-Korea betrokken is, volgens een rapport van het dreigingsinformatieteam van het bedrijf dat vrijdag werd vrijgegeven.
“Nu de bevolkingen in India, Zuid-Korea en de Verenigde Staten naar de stembus gaan, zullen we waarschijnlijk Chinese cyberactoren en beïnvloeders, en tot op zekere hoogte Noord-Koreaanse cyberactoren, zien werken om deze verkiezingen te targeten”, aldus het rapport.
Microsoft zei dat China “op zijn minst” door AI gegenereerde inhoud op sociale media zou creëren en verspreiden die “hun positie bij deze spraakmakende verkiezingen ten goede zou komen”.
Het bedrijf voegde eraan toe dat de impact van door AI gegenereerde inhoud klein is, maar waarschuwde dat dit zou kunnen veranderen.
“Hoewel de impact van dergelijke inhoud op het publiek laag blijft, zullen de groeiende Chinese experimenten met memes, video’s en audio doorgaan – en kunnen ze in de toekomst effectief blijken”, aldus Microsoft.
Microsoft zei in het rapport dat China al een door AI gegenereerde desinformatiecampagne had geprobeerd tijdens de presidentsverkiezingen in Taiwan in januari. Het bedrijf zei dat het de eerste keer was dat een door de staat gesteunde entiteit door AI gegenereerde inhoud gebruikte in een poging buitenlandse verkiezingen te beïnvloeden.
Een door Peking gesteunde groep genaamd Storm 1376, ook bekend als Spamouflage of Dragonbridge, was zeer actief tijdens de Taiwanese verkiezingen. Zijn pogingen om de verkiezingen te beïnvloeden omvatten onder meer het uploaden van nepaudio op YouTube van verkiezingskandidaat Terry Gou – die in november afhaakte – waarin hij een andere kandidaat steunde. Microsoft zei dat de beelden ‘waarschijnlijk door AI zijn gegenereerd’. YouTube verwijderde de inhoud voordat deze veel gebruikers bereikte.
Een door Peking gesteunde groep lanceerde een reeks door AI gegenereerde memes over de uiteindelijke succesvolle kandidaat, William Lai – een soevereiniteitskandidaat waartegen Peking zich verzette – die ongefundeerde beweringen deed tegen Lai en hem beschuldigde van het verduisteren van staatsgelden. Er is ook steeds meer gebruik gemaakt van door AI gegenereerde tv-nieuwspresentatoren, een tactiek die ook door Iran wordt gebruikt, waarbij het ‘anker’ ongefundeerde beweringen doet over Lai’s privéleven, inclusief de geboorte van onwettige kinderen.
Microsoft zei dat de nieuwsankers zijn gemaakt met behulp van de CapCut-tool, die is ontwikkeld door het Chinese bedrijf ByteDance, de eigenaar van TikTok.
Microsoft voegde eraan toe dat Chinese groepen hun invloedscampagnes in de VS voortzetten. Het zegt dat door Peking gesteunde actoren sociale-media-accounts gebruiken om ‘verdeeldheidwekkende vragen’ te stellen en kwesties te proberen begrijpen die de Amerikaanse kiezers verdelen.
“Dit zou het verzamelen van inlichtingen kunnen zijn en precisie over de belangrijkste demografische gegevens over de stemming in de aanloop naar de Amerikaanse presidentsverkiezingen”, aldus Microsoft in een blogpost bij het rapport.
Eén bericht op X, voorheen Twitter, verwees naar een tweeledig wetsvoorstel van 118 miljard dollar in de VS, dat een investering van 20 miljard dollar in de grens tussen de VS en Mexico combineert met een pakket van 75 miljard dollar voor Oekraïne en Israël. Er werd gevraagd: “Wat is uw reactie?” Een ander wees op het verlies van een F-35 straaljager vorig jaar in South Carolina en zei dat “alleen onder de regering-Biden” een waardevol stuk militair materieel verloren zou kunnen gaan – ook al werden de stoffelijke resten kort daarna gevonden – en vroeg “wat denk je hierover na?”
Het rapport werd dezelfde week vrijgegeven. Een officieel door het Witte Huis aangestelde beoordelingsraad zei dat een “cascade van fouten” van Microsoft het door de staat gesteunde Chinese cyberoperatoren mogelijk maakte om in te breken in de e-mailaccounts van hoge Amerikaanse functionarissen. Vorige maand beschuldigden de Amerikaanse en Britse regeringen door China gesteunde hackers ervan een jarenlange cybercampagne te voeren tegen politici, journalisten en bedrijven, evenals tegen de Britse verkiezingswaakhond.