Lichte moderatie van de inhoud op X (ook bekend als Twitter) verstoorde een gecoördineerde inspanning tussen socialemediabedrijven en wetshandhavingsinstanties om hard op te treden tegen ‘propaganda-accounts die worden beheerd door buitenlandse entiteiten en die tot doel hebben de Amerikaanse politiek te beïnvloeden’, meldde de Washington Post.
Nu ‘bloeit’ de propaganda op Xu, meldt The Post, terwijl andere sociale-mediabedrijven vastzitten in eindeloze cycli, waarbij ze zien hoe een deel van de door hen geblokkeerde propaganda zich naar Xu verspreidt en zich vervolgens onvermijdelijk naar hun platforms verspreidt.
Meta, Google en het toenmalige Twitter begonnen de verwijderingsinspanningen te coördineren met wetshandhavings- en desinformatieonderzoekers nadat door Rusland gesteunde invloedscampagnes hun platforms hadden gemanipuleerd in de hoop de Amerikaanse presidentsverkiezingen van 2016 te beïnvloeden.
Het jaar daarop beloofden alle drie de bedrijven aan het Congres dat ze onvermoeibaar zouden werken om de verspreiding van door Rusland gesteunde propaganda op hun platforms te stoppen. De bedrijven voerden een expliciet verkiezings-desinformatiebeleid en begonnen elke twee weken bijeen te komen om aantekeningen te vergelijken over de propagandanetwerken die elk platform had ontdekt, volgens de interviews van The Post met anonieme bronnen die aan de bijeenkomsten deelnamen.
Nadat Elon Musk echter Twitter had gekocht en het bedrijf omgedoopt tot X, trok zijn bedrijf zich in mei 2023 terug uit de alliantie.
Bronnen vertelden The Post dat de laatste deelnemer aan de X-bijeenkomst de Ierse inlichtingenexpert Aaron Rodericks was, die naar verluidt een boete kreeg omdat hij een X-post leuk vond die Musk ‘onzin’ noemde. Rodericks werd later ontslagen toen Musk afgelopen september het hele verkiezingsintegriteitsteam ontsloeg, waarna X blijkbaar de twee weken durende bijeenkomst helemaal verliet en ‘gewoon verdween’, vertelde een bron aan The Post.
In 2023 signaleerde Meta bijvoorbeeld 150 ‘kunstmatige invloedsaccounts’ die op haar platform waren geïdentificeerd, waarvan ‘136 donderdagavond nog steeds aanwezig waren op X’, aldus een analyse van The Post. Het toezicht van X lijkt zich uit te strekken tot alle, op acht na, van de 123 ‘in China gevestigde misleidende campagnes’ die zijn gekoppeld aan accounts die Meta afgelopen mei, augustus en december heeft gemarkeerd, meldde The Post.
Het rapport van The Post bevatte ook een exclusieve analyse van de Stanford Internet Observatory (SIO), waaruit bleek dat 86 propaganda-accounts die afgelopen november door Meta waren gemarkeerd, “nog steeds actief waren op X.”
De meeste van deze accounts (81) waren in China gevestigd en deden zich voor als Amerikanen, meldde de SIO. Deze accounts scheurden vaak foto’s uit de LinkedIn-profielen van Amerikanen en veranderden vervolgens de namen van echte Amerikanen terwijl ze berichten plaatsten over China en de Amerikaanse politiek, evenals over mensen die vaak trending zijn op X, zoals Elon Musk en Joe Biden.
Meta waarschuwde dat de in China gevestigde invloedscampagnes ‘prolifereren’, merkte The Post op, terwijl de normen van X schijnbaar te laks blijven. Zelfs accounts die verband houden met strafrechtelijk onderzoek blijven actief op X. Eén ‘account die ervan wordt beschuldigd te worden beheerd door het Chinese ministerie van Openbare Veiligheid’, meldt de Post, blijft op X staan, ondanks dat de berichten door Amerikaanse aanklagers worden geciteerd in een strafrechtelijke klacht.
Aanklagers koppelden het account aan ‘tientallen’ X-accounts die proberen de ‘publieke perceptie vorm te geven’ van de Chinese Communistische Partij, de Chinese regering en andere wereldleiders. De rapporten becommentariëren ook actuele onderwerpen zoals het fentanylprobleem of politiegeweld, wat schijnbaar ‘een gevoel van ontsteltenis over de staat Amerika overbrengt zonder enige duidelijke partijdige vooringenomenheid’, aldus Elise Thomas, analist bij het in Londen gevestigde non-profit Institute for Strategic. Dialoog, vertelde de Post.
Sommige X-accounts gemarkeerd door The Post hadden meer dan een miljoen volgers. Vijf van hen betaalden X om geverifieerd te worden, wat suggereert dat hun desinformatiecampagnes – die zich richten op hashtags om het discours over de Amerikaanse politiek te verwarren – lijken te worden gevoed door X.
SIO technisch onderzoeksmanager Renée DiResta bekritiseerde het besluit van X om te stoppen met de coördinatie met andere platforms.
“De aanwezigheid van deze verhalen versterkt het feit dat statelijke actoren blijven proberen de Amerikaanse politiek te beïnvloeden door zich voor te doen als de media en mede-Amerikanen”, zei DiResta tegen de Post. Hij heeft het niet eens over de netwerken die door zijn collega’s zijn geïdentificeerd, en dat is niet geweldig. ”
Musk heeft het verkiezingsintegriteitsteam van X gesloten omdat hij beweerde dat het team feitelijk de electorale integriteit ‘ondermijnde’. Maar analisten zetten zich schrap voor een stortvloed aan desinformatie die de verkiezingen van 2024 zal beïnvloeden, omdat sommige grote platforms het desinformatiebeleid bij verkiezingen hebben afgeschaft, net zoals de snelle vooruitgang in AI-technologieën de verspreiding van desinformatie via tekst, afbeeldingen, audio en video voor de gemiddelde persoon moeilijker te detecteren heeft gemaakt. . persoon.
In een prominent voorbeeld vertrouwde een neptelefoonoperator op kunstmatige intelligentie-stemtechnologie om zich voor te doen als Joe Biden om de Democraten te vertellen niet te stemmen. Dat incident heeft de Federal Trade Commission er donderdag blijkbaar toe aangezet om voor te stellen om een verkeerde voorstelling van zaken op het gebied van AI te bestraffen.
Het lijkt voor de hand te liggen dat propagandaverslagen van buitenlandse entiteiten op Xu alle beschikbare middelen zullen gebruiken om hun inhoud te bekijken, misschien in de verwachting dat het platform van Musk het langzaamst zal zijn om hen te controleren. Volgens The Post gebruiken sommige van de propagandaverspreidende X-accounts door AI gegenereerde afbeeldingen van Joe Biden en Donald Trump om tienduizenden views op berichten te verzamelen.
Het is mogelijk dat X de contentmoderatie gaat aanscherpen naarmate de verkiezingen dichterbij komen. X sloot zich gisteren aan bij Amazon, Google, Meta, OpenAI, TikTok en andere Big Tech-bedrijven door een overeenkomst te ondertekenen om “misleidend gebruik van AI” tijdens de verkiezingen van 2024 te bestrijden. Een van de belangrijkste doelstellingen die in de ‘AI-verkiezingsovereenkomst’ zijn vastgesteld, is het bepalen waar propaganda vandaan komt, het ontdekken hoe propaganda zich over platforms verspreidt, en ‘het ondernemen van gezamenlijke inspanningen om de ervaringen en resultaten van de omgang met propaganda te beoordelen en ervan te leren.