Hoewel gruwelijk, hebben de deepfakes van Swift wellicht meer dan wat dan ook gedaan om het bewustzijn van de risico’s te vergroten en lijken ze technologiebedrijven en wetgevers ertoe aan te zetten actie te ondernemen.
“De schroef is gedraaid”, zegt Henry Ajder, een expert op het gebied van generatieve kunstmatige intelligentie die al bijna tien jaar deepfakes bestudeert. We staan op een keerpunt waarop de druk van wetgevers en het bewustzijn onder consumenten zo groot is dat technologiebedrijven het probleem niet langer kunnen negeren, zegt hij.
Eerst het goede nieuws. Vorige week zei Google dat het stappen onderneemt om te voorkomen dat expliciete deepfakes in de zoekresultaten verschijnen. De technologiegigant maakt het gemakkelijk voor slachtoffers om zonder toestemming de verwijdering van nep-expliciete afbeeldingen aan te vragen. Het filtert ook alle expliciete resultaten van vergelijkbare zoekopdrachten en verwijdert dubbele afbeeldingen. Dit voorkomt dat de afbeeldingen in de toekomst opnieuw verschijnen. Google verlaagt ook zoekresultaten die naar expliciet nep-inhoud leiden. Wanneer iemand zoekt naar deepfakes en iemands naam in de zoekopdracht opneemt, zal Google proberen hoogwaardige, niet-expliciete inhoud te tonen, zoals relevante nieuwsartikelen.
Dit is een positieve zet, zegt Ayder. De wijzigingen van Google verwijderen een enorme hoeveelheid zichtbaarheid voor aanstootgevende, pornografische deepfake-inhoud. “Dat betekent dat mensen veel harder zullen moeten werken om het te vinden als ze er toegang toe willen hebben”, zegt hij.
In januari schreef ik over drie manieren waarop we expliciete deepfakes zonder toestemming kunnen bestrijden. Dit omvat regelgeving; watermerken, waarmee we kunnen detecteren of iets door kunstmatige intelligentie is gegenereerd; en beschermende schilden, die het voor aanvallers moeilijk maken om onze afbeeldingen te gebruiken.
Acht maanden later zijn watermerken en veiligheidsschilden nog steeds experimenteel en onbetrouwbaar, maar het goede nieuws is dat de regelgeving een beetje heeft ingehaald. Groot-Brittannië heeft bijvoorbeeld zowel de creatie als de distributie van expliciete deepfakes zonder toestemming verboden. De beslissing leidde ertoe dat een populaire site die dit soort inhoud verspreidt, de heer DeepFakes, de toegang blokkeerde voor gebruikers in Groot-Brittannië, zegt Ajder.
De EU-AI-wet is nu officieel van kracht en zou een aantal belangrijke veranderingen in de transparantie kunnen introduceren. De wet vereist dat deepfake-makers duidelijk onthullen dat het materiaal door AI is gemaakt. En eind juli keurde de Amerikaanse Senaat de Defiance Act goed, die slachtoffers een manier biedt om civiele rechtsmiddelen te zoeken tegen seksueel expliciete deepfakes. (Dit wetsvoorstel moet nog veel hindernissen in het Huis van Afgevaardigden overwinnen voordat het wet wordt.)
Maar er moet nog veel gebeuren. Google kan duidelijk identificeren welke websites verkeer genereren en probeert deep fake-pagina’s uit de top van de zoekresultaten te verwijderen, maar het kan verder gaan. “Waarom behandelen ze deze niet als kinderpornowebsites en verwijderen ze ze waar mogelijk volledig uit zoekopdrachten?” zegt Ayder. Ook vond hij het een vreemde omissie dat in de aankondiging van Google geen sprake was van deepfake-video’s, maar alleen van afbeeldingen.