Ik kan me alleen maar voorstellen hoe je je voelt nadat je seksueel expliciete deepfake-video’s viraal gingen op X. Walgelijk. Boos, misschien. Zelfs vernederd.
Het spijt me echt dat dit je overkomt. Niemand verdient het dat zijn imago op deze manier wordt uitgebuit. Maar als je dat nog niet hebt gedaan, wees dan alsjeblieft woedend.
Woedend dat dit jou en zoveel andere vrouwen en gemarginaliseerde mensen over de hele wereld overkomt. Woedend dat onze huidige wetten jammerlijk niet in staat zijn ons tegen dergelijke schendingen te beschermen. Woedend dat mannen (want laten we eerlijk zijn, het zijn meestal mannen) ons op zo’n intieme manier kunnen misbruiken en ongedeerd en ongeïdentificeerd kunnen weglopen. Woedend dat zelfs de bedrijven die de creatie en verspreiding van dit materiaal mogelijk maken geen gevolgen ondervinden en kunnen profiteren van zo’n vreselijk gebruik van hun technologie.
Deepfake-porno bestaat al jaren, maar de nieuwste incarnatie is de ergste tot nu toe. Generatieve AI heeft het belachelijk eenvoudig en goedkoop gemaakt om realistische deepfakes te creëren. En bijna alle deepfakes zijn gemaakt voor pornografie. Er is maar één foto nodig die van sociale media is gescheurd om iets acceptabels te creëren. Iedereen die ooit een foto van hen online heeft geplaatst of geplaatst, is een zittende eend.
Eerst het slechte nieuws. We hebben momenteel geen goede manieren om dit te bestrijden. Ik heb zojuist een verhaal gepubliceerd waarin wordt gekeken naar drie manieren waarop we deepfake-porno zonder wederzijds goedvinden kunnen bestrijden, waaronder tools voor watermerken en gegevensvergiftiging. Maar de realiteit is dat er geen nette technische oplossing voor dit probleem bestaat. De oplossingen die we hebben zijn nog steeds experimenteel en zijn nog niet algemeen aanvaard door de technologiesector, wat hun macht beperkt.
De technologiesector is tot nu toe niet bereid of ongemotiveerd geweest om veranderingen aan te brengen die zouden verhinderen dat dergelijk materiaal met behulp van hun tools zou worden gemaakt of op hun platforms zou worden gedeeld. Daarom hebben we regulering nodig.
Mensen met macht, zoals jij, kunnen vechten met geld en advocaten. Maar vrouwen met een laag inkomen, gekleurde vrouwen, vrouwen die op de vlucht zijn voor gewelddadige partners, vrouwelijke journalisten en zelfs kinderen zien allemaal dat hun imago wordt gestolen en pornografie, zonder enige mogelijkheid om gerechtigheid of steun te zoeken. Al je fans kunnen door deze gang van zaken gewond raken.
Het goede nieuws is dat het feit dat dit jou is overkomen, betekent dat politici in de VS luisteren. Je hebt een zeldzame kans en momentum om echte, uitvoerbare veranderingen door te voeren.
Ik weet dat je vecht voor wat juist is en dat je niet bang bent om je mening te geven als je onrecht ziet. Er zal intensief gelobbyd worden tegen alle regels die van invloed zouden zijn op technologiebedrijven. Maar jullie hebben het platform en de macht om wetgevers over de hele wereld ervan te overtuigen dat regels om dit soort deepfakes te bestrijden noodzakelijk zijn. Technologiebedrijven en politici moeten weten dat de dagen van afwijkende meningen voorbij zijn. De mensen die deze deepfakes creëren moeten ter verantwoording worden geroepen.
Je hebt ooit een echte aardbeving veroorzaakt. Een overwinning in de strijd tegen afwijkende deepfakes zou een nog meer wereldschokkende impact hebben.