Alleen al de afgelopen maand zijn er meer dan honderd deepfake-videoadvertenties met Rishi Sunak betaald om op Facebook te worden gepromoot, blijkt uit onderzoek dat alarm heeft gewekt over het risico dat AI met zich meebrengt in de aanloop naar de algemene verkiezingen.
De advertenties hebben misschien wel 400.000 mensen bereikt – ondanks dat ze verschillende Facebook-beleidsregels leken te schenden – en vertegenwoordigen de eerste keer dat het imago van een premier op systematische wijze massaal is veranderd.
Er werd ruim £12.929 uitgegeven aan 143 advertenties, afkomstig uit 23 landen, waaronder de VS, Turkije, Maleisië en de Filipijnen.
Onder hen is er een met een nepvideo waarin BBC-nieuwslezer Sarah Campbell een actueel nieuwsbericht lijkt voor te lezen waarin ten onrechte wordt beweerd dat er een schandaal is uitgebroken over Sunak die in het geheim “kolossale bedragen verdient met een project dat oorspronkelijk bedoeld was voor gewone burgers”.
Het bevat een valse bewering dat Elon Musk een app heeft gelanceerd die aandelenmarkttransacties kan ‘oogsten’, gevolgd door een nepfragment waarin Sunak zegt dat de regering heeft besloten de app te testen in plaats van het geld van gewone mensen op het spel te zetten.
De clips leiden vervolgens naar een nep-BBC News-site die de nep-investering promoot.
Het onderzoek werd uitgevoerd door Fenimore Harper, een communicatiebedrijf opgericht door Marcus Beard, de voormalige functionaris van Downing Street die leiding gaf aan de reactie van No 10 op het tegengaan van complottheorieën tijdens de Covid-crisis.
Hij waarschuwde dat de advertenties, die een verschuiving in de kwaliteit van namaak markeren, laten zien dat de verkiezingen dit jaar het risico liepen te worden gemanipuleerd door een grote hoeveelheid hoogwaardige leugens die door kunstmatige intelligentie werden gegenereerd.
“Met de komst van goedkope, eenvoudig te gebruiken stem- en gezichtsklonen is er heel weinig kennis en expertise nodig om de gelijkenis van een persoon voor kwaadaardige doeleinden te gebruiken.”
“Helaas wordt dit probleem verergerd door een laks betaald reclamematigingsbeleid. Deze advertenties zijn in strijd met verschillende advertentiebeleidsregels van Facebook. Het lijkt er echter op dat maar heel weinig advertenties die we tegenkwamen, zijn verwijderd.”
Meta, eigenaar van Facebook, is om commentaar gevraagd.
Een woordvoerder van de Britse regering zei: “We werken uitgebreid samen met de regeringen om ervoor te zorgen dat we klaar zijn om snel te reageren op eventuele bedreigingen voor onze democratische processen, via onze Democracy Defense Task Force en toegewijde overheidsteams.
“Onze Online Safety Act gaat verder door nieuwe eisen te stellen aan sociale platforms om illegale desinformatie en desinformatie snel te verwijderen – ook als deze wordt gegenereerd door kunstmatige intelligentie – zodra zij zich hiervan bewust worden.”
Een BBC-woordvoerder zei: “In een wereld van toenemende desinformatie dringen we er bij iedereen op aan ervoor te zorgen dat ze hun nieuws uit betrouwbare bronnen halen. We hebben BBC Verify 2023 gelanceerd om de groeiende dreiging van desinformatie aan te pakken – door te investeren in een zeer gespecialiseerd team met een scala aan open source forensisch en inlichtingenonderzoek (OSINT), factchecking, videocontrole, het tegengaan van desinformatie, het analyseren van gegevens en het uitleggen van complexe verhalen.
“We bouwen vertrouwen op bij het publiek door te laten zien hoe BBC-journalisten de informatie kennen die ze rapporteren en door uitleg te geven over hoe je valse en diep valse inhoud kunt herkennen. Wanneer we ons bewust worden van valse BBC-inhoud, ondernemen we snel actie.”
Regelgevers zijn bezorgd dat de tijd dringt voor ingrijpende veranderingen om ervoor te zorgen dat het Britse kiesstelsel gelijke tred houdt met de vooruitgang op het gebied van kunstmatige intelligentie vóór de volgende algemene verkiezingen, die in november plaatsvinden.
De regering is in gesprek met toezichthouders, waaronder de Kiescommissie, die zegt dat nieuwe vereisten onder de wetgeving van 2022 voor digitaal campagnemateriaal onder meer ‘footprinting’ zullen omvatten, omdat dit er op de een of andere manier voor zal zorgen dat kiezers kunnen zien wie voor een advertentie heeft betaald of deze probeert te beïnvloeden. hen.
Een woordvoerder van Meta zei: “We verwijderen inhoud die onze regels schendt, ongeacht of deze door AI of door een persoon is gemaakt. De overgrote meerderheid van deze advertenties was uitgeschakeld voordat dit rapport werd gepubliceerd, en het rapport zelf stelt dat minder dan 0,5% van de Britse gebruikers één enkele gepubliceerde advertentie heeft gezien.
“Sinds 2018 bieden we toonaangevende transparantie voor advertenties over sociale kwesties, verkiezingen of politiek, en we blijven deze inspanningen verbeteren.”