Afgelopen april een campagneadvertentie verscheen op het YouTube-kanaal van het Republikeinse Nationale Comité. De advertentie toonde een reeks beelden: president Joe Biden die zijn herverkiezing viert, de straten van Amerikaanse steden met gesloten banken en oproerpolitie, en immigranten die zich over de grens tussen de VS en Mexico haasten. Het onderschrift van de video luidde: “Een door kunstmatige intelligentie gegenereerde blik op de mogelijke toekomst van het land als Joe Biden in 2024 wordt herkozen.”
Hoewel die advertentie het gebruik van kunstmatige intelligentie benadrukte, deden de meeste nepfoto’s en -video’s dat niet: diezelfde maand circuleerde er een nep-videofragment op sociale media waarin werd beweerd dat Hillary Clinton de Republikeinse presidentskandidaat Ron DeSantis steunde. De buitengewone opkomst van generatieve kunstmatige intelligentie in de afgelopen jaren betekent dat de Amerikaanse verkiezingscampagne van 2024 niet alleen de ene kandidaat tegen de andere zal opzetten, maar ook een strijd zal zijn tussen waarheid en leugens. En de Amerikaanse verkiezingen zijn verre van de enige verkiezingsstrijd waar veel op het spel staat dit jaar. Volgens het Integrity Institute, een non-profitorganisatie die zich richt op het verbeteren van sociale media, houden 78 landen in 2024 grote verkiezingen.
Gelukkig waren veel mensen zich aan het voorbereiden op dit moment. Eén van hen is Andrew Jenks, directeur media-herkomstprojecten bij Microsoft. Synthetische afbeeldingen en video’s, ook wel deepfakes genoemd, “zullen een impact hebben” op de Amerikaanse presidentsverkiezingen van 2024, zegt hij. “Ons doel is om die impact zoveel mogelijk te verzachten.” Jenks is voorzitter van de Coalition for Content Provenance and Authenticity (C2PA), een organisatie die technische methoden ontwikkelt voor het documenteren van de herkomst en geschiedenis van digitale mediabestanden, echt en nep. Microsoft lanceerde in november ook een initiatief om politieke campagnes te helpen inhoudsreferenties te gebruiken.
De C2PA-groep brengt het door Adobe geleide Content Authenticity Initiative en een media-initiatief genaamd Project Origin samen; In 2021 publiceerde het zijn initiële normen voor het toevoegen van cryptografisch veilige metadata aan beeld- en videobestanden. In zijn systeem wordt elke bestandswijziging automatisch weerspiegeld in de metadata, waardoor het cryptografische zegel wordt verbroken en eventuele manipulatie duidelijk wordt. Als de persoon die het bestand aanpast een tool gebruikt die inhoudsaccreditatie ondersteunt, wordt informatie over de wijzigingen toegevoegd aan het manifest dat met de afbeelding meegaat.
Sinds de publicatie van de standaard heeft de groep de open source-specificaties verder ontwikkeld en geïmplementeerd bij toonaangevende mediabedrijven: de BBC, de Canadian Broadcasting Corp. (CBC) en
De New York Times zijn allemaal lid van C2PA. Voor mediabedrijven zijn contentreferenties een manier om vertrouwen op te bouwen in een tijd waarin de ongebreidelde desinformatie het voor mensen gemakkelijk maakt om ‘nep’ te roepen over alles waar ze het niet mee eens zijn (een fenomeen dat bekend staat als het leugenaarsdividend). “Het is heel belangrijk dat je inhoud een baken is dat door de duisternis schijnt”, zegt Laura Ellis, hoofd Technology Forecasting van de BBC.
Dit jaar zal de identificatie van inhoud serieus beginnen, aangespoord door nieuwe AI-regelgeving in de Verenigde Staten en elders. “Ik denk dat 2024 de eerste keer zal zijn dat mijn oma inhoudsreferenties tegenkomt”, zegt Jenks.
Waarom hebben we inhoudsreferenties nodig?
In een content credential systeem wordt de originele foto aangevuld met herkomstinformatie en een digitale handtekening die verenigd worden in een manifest dat voor de hand ligt. Als een andere gebruiker de foto wijzigt met een goedgekeurde tool, worden er nieuwe claims aan het manifest toegevoegd. Wanneer een afbeelding op een webpagina verschijnt, kunnen kijkers op het logo voor de inhoudsreferenties klikken voor informatie over hoe de afbeelding is gemaakt en gewijzigd. C2PA
De kern van het probleem is dat tools voor het genereren van afbeeldingen zoals DALL-E 2 en Midjourney het voor iedereen gemakkelijk maken om realistische maar nepfoto’s te maken van gebeurtenissen die nooit hebben plaatsgevonden, en er bestaan soortgelijke tools voor video. Hoewel grote generatieve AI-platforms protocollen hebben om te voorkomen dat mensen valse foto’s of video’s van echte mensen, zoals politici, maken, vinden veel hackers het leuk om deze systemen te ‘jailbreaken’ en manieren te vinden om veiligheidscontroles te omzeilen. En minder gerenommeerde platforms hebben minder waarborgen.
In deze context proberen verschillende grote mediaorganisaties het inhoudreferentiesysteem van C2PA te gebruiken om internetgebruikers in staat te stellen de manifesten bij gevalideerde afbeeldingen en video’s te verifiëren. Afbeeldingen die zijn geverifieerd door het C2PA-systeem kunnen een klein “cr”-pictogram in de hoek bevatten; gebruikers kunnen erop klikken om alle beschikbare informatie over die afbeelding te zien: wanneer en hoe de afbeelding is gemaakt, wie deze voor het eerst heeft gepubliceerd, welke tools zijn gebruikt om de afbeelding te wijzigen, hoe deze is gewijzigd, enz. Kijkers zullen die informatie echter alleen zien als ze een sociale-mediaplatform of -applicatie gebruiken die inloggegevens van de inhoud kan lezen en weergeven.
Hetzelfde systeem kan worden gebruikt door AI-bedrijven die tools produceren voor het genereren van afbeeldingen en video’s; in dat geval zouden de gecreëerde synthetische media als zodanig worden geëtiketteerd. Sommige bedrijven zijn al betrokken: Adobe, mede-oprichter van C2PA, genereert relevante metadata voor elke afbeelding die is gemaakt met zijn tool voor het genereren van afbeeldingen, Firefly, en Microsoft doet hetzelfde met zijn Bing Image Creator.
“Het is heel belangrijk dat je content een baken is dat door de duisternis schijnt.” – Laura Ellis, BBC
De beweging richting contentreferenties komt naarmate het enthousiasme voor geautomatiseerde deep-fake-detectiesystemen afneemt. Volgens Ellis van de BBC “besloten we dat deepfake-detectie een wargaming-ruimte was” – wat betekent dat de beste stroomdetector gebruikt kon worden om een nog betere deepfake-generator te trainen. De detectoren zijn ook niet erg goed. In 2020 kende Meta’s Deepfake Detection Challenge de hoofdprijs toe aan een systeem dat slechts 65 procent nauwkeurigheid had bij het onderscheiden van echt en nep.
Hoewel tot nu toe slechts enkele bedrijven contentreferenties hebben geïntegreerd, wordt er momenteel regelgeving opgesteld om deze praktijk aan te moedigen. De AI-wet van de Europese Unie, die nu is afgerond, vereist dat synthetische inhoud wordt geëtiketteerd. En in de Verenigde Staten heeft het Witte Huis onlangs een uitvoerend bevel uitgevaardigd over kunstmatige intelligentie, dat het ministerie van Handel verplicht richtlijnen te ontwikkelen voor het authenticeren van inhoud en het taggen van synthetische inhoud.
Bruce MacCormack, voorzitter van het Origin-project en lid van de raad van bestuur van C2PA, zegt dat de grote AI-bedrijven medio 2023 op weg waren naar contentreferenties, toen ze vrijwillige toezeggingen tekenden met het Witte Huis, waaronder een belofte om te watermerken synthetische inhoud. “Iedereen was het erover eens om het te doen iets“, merkt hij op. “Ze waren het er niet mee eens om hetzelfde te doen. Het uitvoerend bevel is een drijvende kracht om iedereen in dezelfde ruimte te krijgen.”
Wat gebeurt er in 2024 met contentreferenties?
Sommige mensen vergelijken inhoudsreferenties met een voedingsetiket: is dit junkmedia of iets gemaakt met echte, gezonde ingrediënten? Tessa Sproule, directeur metadata en informatiesystemen van de CBC, zegt dat ze het beschouwt als een keten van bewaking die wordt gebruikt om bewijsmateriaal in rechtszaken bij te houden: “Het is beveiligde informatie die kan groeien gedurende de levenscyclus van stilstaande beeldinhoud”, zegt ze. “Je stempelt de invoer en terwijl we de afbeelding manipuleren door middel van bijsnijden in Photoshop, wordt die informatie ook bijgehouden.”
Sproule zegt dat haar team de interne beeldbeheersystemen heeft vernieuwd en een gebruikerservaring heeft ontworpen met lagen informatie waar gebruikers in kunnen duiken, afhankelijk van hun interesseniveau. Medio 2024 hoopt het een systeem voor inhoudsaccreditatie te introduceren dat zichtbaar zal zijn voor elke externe kijker met behulp van een soort software die metadata herkent. Sproule zegt dat haar team ook terug wil naar hun archieven en metadata aan die bestanden wil toevoegen.
Bij de BBC zegt Ellis dat ze al proeven hebben gedaan met het toevoegen van metadata aan foto’s, maar “waar we dit nodig hebben om te werken is op [social media] platforms.” Kijkers zullen immers minder snel twijfelen aan de authenticiteit van een foto op de BBC-website dan wanneer ze dezelfde afbeelding op Facebook tegenkomen. De BBC en haar partners organiseerden ook workshops met mediaorganisaties om de integratie van systemen voor inhoudsaccreditatie te bespreken. De groep van Ellis erkent dat het voor kleine uitgevers moeilijk kan zijn om hun workflows aan te passen en onderzoekt ook het idee van “servicecentra” waar uitgevers hun afbeeldingen kunnen opsturen ter validatie en certificering; afbeeldingen zouden worden geretourneerd met cryptografisch gehashte metadata die hun authenticiteit bevestigen.
MacCormack merkt op dat early adopters niet noodzakelijkerwijs reclame willen maken voor hun inhoudsreferenties, omdat ze niet willen dat internetgebruikers wantrouwig zijn tegenover afbeeldingen of video’s zonder een klein ‘cr’-pictogram in de hoek. “Er moet een kritische massa aan informatie zijn met metadata voordat je mensen vertelt deze op te zoeken”, zegt hij.
Een nieuw Microsoft-initiatief voor politieke campagnes, Content Credentials as a Service genaamd, gaat verder dan de media-industrie en heeft tot doel kandidaten te helpen hun eigen afbeeldingen en berichten te controleren door hen in staat te stellen authentiek campagnemateriaal te voorzien van veilige metagegevens. In de blogpost van Microsoft staat dat de dienst “in het voorjaar zal worden gelanceerd als een privépreview”, die gratis is voor politieke campagnes. Een woordvoerder zei dat Microsoft ideeën onderzoekt voor de dienst, die “uiteindelijk een betaald aanbod kan worden” dat op grotere schaal beschikbaar is.
De grote sociale-mediaplatforms moeten hun plannen voor het gebruiken en weergeven van inhoudsreferenties nog publiekelijk bekendmaken, maar Claire Leibowicz, hoofd van AI en media-integriteit bij het Partnership for AI, zegt dat ze “zeer betrokken” zijn geweest bij de discussies. Bedrijven als Meta denken nu na over de gebruikerservaring, zegt ze, en ze denken ook na over de praktische aspecten. Ze noemt de rekenvereisten als voorbeeld: “Als je een watermerk toevoegt aan elk stukje inhoud op Facebook, zal dat dan een vertraging veroorzaken waardoor gebruikers uitloggen?” Leibowicz verwacht dat de regelgeving de grootste katalysator zal zijn voor de adoptie van inhoudsreferenties. en ze wil er graag meer over weten, hoe Bidens uitvoerend bevel zal worden uitgevaardigd.
Zelfs voordat de inhoudsreferenties in de feeds van gebruikers verschijnen, kunnen sociale-mediaplatforms die metagegevens gebruiken in hun filter- en rangschikkingsalgoritmen om betrouwbare inhoud te vinden die ze kunnen aanbevelen. “De waarde ontstaat lang voordat het een op de consument gerichte technologie wordt”, zegt MacCormack van Project Origin. De systemen die de informatiestroom van uitgevers naar sociale-mediaplatforms beheren “zullen al aanwezig zijn voordat we consumenten gaan voorlichten”, zegt hij.
Als sociale mediaplatforms het einde zijn van de beelddistributie, zijn camera’s die afbeeldingen en video’s vastleggen het begin. In oktober onthulde Leica de eerste camera met ingebouwde contentreferenties; C2PA-lidbedrijven Nikon en Canon hebben ook prototypecamera’s gebouwd met accreditatie. Maar hardware-integratie moet worden beschouwd als een ‘groeistap’, zegt Jenks van Microsoft. “In het beste geval begin je bij de lens wanneer je iets fotografeert en heb je een digitale vertrouwensketen die zich uitstrekt tot aan de plek waar iets op de website wordt geconsumeerd”, zegt hij. “Maar het heeft nog steeds waarde om alleen die laatste kilometer te doen.”
Dit artikel verschijnt in de gedrukte editie van januari 2024 als ‘Dit verkiezingsjaar, zoek naar inhoudsreferenties.’