Terwijl kiezers dit jaar in meer dan 50 landen naar de stembus gaan, hebben experts alarm geslagen over door AI gegenereerde politieke desinformatie en de mogelijkheid dat kwaadwillende actoren generatieve AI en sociale media zullen gebruiken om verkiezingen te verstoren. Meta heeft eerder te maken gekregen met kritiek vanwege haar inhoudsmoderatiebeleid rond de afgelopen verkiezingen – bijvoorbeeld toen het er niet in slaagde te voorkomen dat de relschoppers van 6 januari zich op haar platforms organiseerden.
Clegg verdedigde de inspanningen van het bedrijf om te voorkomen dat gewelddadige bendes zich zouden organiseren, maar benadrukte ook dat het moeilijk is om bij te blijven. ‘Dit is een uiterst tegenstrijdige ruimte. Eerlijk gezegd speel je Whack-a-Mole. Haal één groep weg, ze krijgen een nieuwe naam, een nieuwe naam, enzovoort”, zei hij.
Clegg beweerde dat het bedrijf, vergeleken met 2016, nu “totaal anders” is als het gaat om het modereren van verkiezingsinhoud. Sindsdien heeft het meer dan 200 ‘netwerken van gecoördineerd niet-authentiek gedrag’ uitgeschakeld, zei hij. Het bedrijf vertrouwt nu op factchecking en AI-technologie om ongewenste groepen op zijn platforms te identificeren.
Eerder dit jaar kondigde Meta aan dat het door AI gegenereerde afbeeldingen op Facebook, Instagram en Threads zou taggen. Meta is begonnen met het toevoegen van zichtbare markeringen aan dergelijke afbeeldingen, evenals onzichtbare watermerken en metagegevens in het afbeeldingsbestand. Er zullen watermerken worden toegevoegd aan afbeeldingen die zijn gemaakt met behulp van meta-generatieve AI-systemen of aan afbeeldingen die onzichtbare markeringen volgens de industrienorm bevatten. Het bedrijf zegt dat de maatregelen in overeenstemming zijn met de best practices van het Partnership for AI, een non-profit onderzoeksorganisatie op het gebied van kunstmatige intelligentie.
Maar tegelijkertijd erkende Clegg dat de tools om door AI gegenereerde inhoud te detecteren nog steeds onvolmaakt en onvolwassen zijn. Watermerken in AI-systemen zijn nog niet in de hele sector ingevoerd en zijn gemakkelijk te wijzigen. Ze zijn ook moeilijk robuust te implementeren in door AI gegenereerde tekst, audio en video.
Uiteindelijk zou het er niet toe moeten doen, zei Clegg, omdat de systemen van Meta in staat zouden moeten zijn om desinformatie op te vangen en te detecteren, ongeacht de oorsprong ervan.
“AI is hierin het zwaard en het schild”, zei hij.
Clegg verdedigde ook de beslissing van het bedrijf om advertenties toe te staan waarin werd beweerd dat er sprake was van vervalsing van de Amerikaanse verkiezingen van 2020. Hij merkte op dat dergelijke beweringen over de hele wereld gebruikelijk zijn en zei dat het voor Meta “niet haalbaar” was om opnieuw aan de afgelopen verkiezingen deel te nemen. Deze maand nog schreven acht ministers van Buitenlandse Zaken een brief aan Mark Zuckerberg, CEO van Meta, waarin ze stelden dat de advertenties nog steeds gevaarlijk kunnen zijn en het potentieel hebben om het vertrouwen van het publiek in verkiezingen en de veiligheid van individuele verkiezingswerkers verder te bedreigen.
Je kunt het volledige interview met Nick Clegg bekijken en MIT-technologierecensie hoofdredacteur Amy Nordrum hieronder.