Het waakhondbestuur van Meta ontdekte dat een Facebook-video die ten onrechte suggereert dat de Amerikaanse president Joe Biden een pedofiel is, de huidige regels van het bedrijf niet schendt, terwijl deze regels ‘onsamenhangend’ vinden en te beperkt gericht zijn op inhoud die door kunstmatige intelligentie wordt gegenereerd.
Het bestuur, dat wordt gefinancierd door Meta – het moederbedrijf van Facebook – maar onafhankelijk functioneert, pakte de zaak Biden in oktober aan naar aanleiding van een klacht van gebruikers over een bewerkte zeven seconden durende video van de president.
Hij oordeelde dat Meta gelijk had door de video te laten staan in overeenstemming met haar huidige beleid, dat misleidend gemonteerde video’s alleen verbiedt als deze door kunstmatige intelligentie zijn geproduceerd of als mensen lijken die woorden zeggen die ze nooit hebben gezegd.
De uitspraak is echter de eerste waarin Meta’s ‘gemanipuleerde media’-beleid wordt bekritiseerd, te midden van de groeiende bezorgdheid over het mogelijke gebruik van nieuwe AI-technologieën om de verkiezingen dit jaar te beïnvloeden.
Het zei dat het beleid “geen dwingende rechtvaardiging heeft, onsamenhangend en verwarrend is voor gebruikers en niet duidelijk aangeeft welke schade het probeert te voorkomen”. Hij stelde voor dat Meta het zou updaten om zowel audio- als video-inhoud te omvatten en tags toe te passen die het identificeren als gemanipuleerd, ongeacht of AI werd gebruikt.
Ze riep niet op om het beleid ook op foto’s toe te passen, omdat het het beleid te moeilijk zou kunnen maken om het op de schaal van Meta toe te passen.
Meta, dat ook eigenaar is van Instagram en WhatsApp, liet het bestuur tijdens de evaluatie weten dat het van plan is het beleid bij te werken ‘om te reageren op de evolutie van nieuwe en steeds realistischer wordende AI’, aldus de uitspraak.
Een Facebook-video manipuleerde echte beelden van Biden die ‘I Voted’-stickers uitwisselde met zijn kleindochter tijdens de Amerikaanse tussentijdse verkiezingen van 2022 en haar op de wang kuste.
Het bestuur zei dat niet-AI-gewijzigde inhoud “overwegend en niet minder misleidend hoeft te zijn” dan inhoud die door AI-tools wordt gegenereerd.
Handhaving, zo voegde het eraan toe, zou moeten bestaan uit het toepassen van tags op inhoud, in plaats van Meta’s huidige aanpak om berichten van zijn platforms te verwijderen.
Het bedrijf maakte maandag bekend dat het de beslissing bestudeert en binnen 60 dagen publiekelijk zal reageren.