Rusland gebruikt generatieve kunstmatige intelligentie in online misleidingscampagnes, maar zijn inspanningen zijn niet succesvol gebleken, zo blijkt uit een donderdag gepubliceerd veiligheidsrapport van Met.
Het moederbedrijf van Facebook en Instagram onthulde dat op AI gebaseerde tactieken tot nu toe alleen maar hebben gezorgd voor een hogere productiviteit en het genereren van inhoud voor slechte actoren, en dat Meta misleidende beïnvloedingsoperaties heeft kunnen ontwrichten.
Meta’s inspanningen om ‘gecoördineerd niet-authentiek gedrag’ op haar platforms te bestrijden komen omdat de vrees toeneemt dat generatieve AI zal worden gebruikt om mensen te misleiden of te verwarren bij verkiezingen in de Verenigde Staten en andere landen.
Rusland blijft de belangrijkste bron van ‘gecoördineerd niet-authentiek gedrag’ waarbij gebruik wordt gemaakt van valse Facebook- en Instagram-accounts, vertelde David Agranovich, directeur veiligheidsbeleid van Meta, aan verslaggevers.
Sinds de Russische invasie van Oekraïne in 2022 hebben die inspanningen zich geconcentreerd op het ondermijnen van Oekraïne en zijn bondgenoten, aldus het rapport.
Nu de Amerikaanse verkiezingen dichterbij komen, verwacht Meta dat door Rusland gesteunde online misleidingscampagnes politieke kandidaten zullen aanvallen die Oekraïne steunen.
Facebook wordt er al jaren van beschuldigd te worden gebruikt als een krachtig platform voor desinformatie over verkiezingen. Russische agenten hebben Facebook en andere in de VS gevestigde sociale netwerken gebruikt om de politieke spanningen te vergroten bij meerdere Amerikaanse verkiezingen, waaronder de door Donald Trump gewonnen verkiezingen van 2016.
Experts vrezen een ongekende stroom aan verkeerde informatie van slechte actoren op sociale media vanwege het gemak waarmee generatieve AI-tools zoals ChatGPT of de beeldgenerator van Dall-E kunnen worden gebruikt om binnen enkele seconden inhoud op aanvraag te creëren.
AI werd gebruikt om afbeeldingen en video’s te maken, en om tekst te vertalen of te genereren, samen met het creëren van nepnieuws of samenvattingen, aldus het rapport.
Wanneer Meta op zoek gaat naar fraude, kijkt het naar hoe accounts zich gedragen, niet naar de inhoud die ze plaatsen.
na het promoten van de nieuwsbrief
Influencer-campagnes bestrijken meestal een reeks online platforms, en Meta merkte op dat berichten op Xu, voorheen Twitter, werden gebruikt om fictieve inhoud geloofwaardiger te laten lijken. Meta deelt zijn bevindingen met X en andere internetbedrijven en zegt dat een gecoördineerde verdediging nodig is om desinformatie te voorkomen.
“Wat Twitter (X) betreft, ze maken nog steeds de transitie door”, zei Agranovich toen hem werd gevraagd of Meta zag dat X handelde naar aanleiding van een zwendeltip. “Veel mensen met wie we daar in het verleden te maken hebben gehad, zijn verhuisd.”
X heeft vertrouwens- en beveiligingsteams gestript en de inspanningen voor contentmoderatie verminderd die ooit werden gebruikt om desinformatie te temmen, waardoor het, wat onderzoekers een broeinest van desinformatie noemen, is ontstaan.