Tde woede was voelbaar. Voor de tweede keer in slechts een paar jaar tijd gingen Zuid-Koreaanse vrouwen de straat op in Seoel om een einde te eisen aan seksuele intimidatie. Toen het land de #MeToo-beweging in Azië leidde, was dat de schuldige stilte – spionagecamera’s die vrouwen filmden zonder hun medeweten. Nu was hun woede gericht op de epidemie van neppornografie.
Voor Juhee Jin, 26, een inwoner van Seoel die pleit voor vrouwenrechten, was de opkomst van deze nieuwe dreiging, waarbij vrouwen en meisjes opnieuw het doelwit zijn, deprimerend voorspelbaar. “Dit had al lang geleden opgelost moeten zijn”, zegt Jin, de vertaler. “Ik hoop dat de autoriteiten voorzorgsmaatregelen zullen nemen en goed onderwijs zullen bieden, zodat mensen kunnen voorkomen dat deze misdaden plaatsvinden.”
Het KLPD zei deze week 513 gevallen van neppornografie te onderzoeken, waarbij de gezichten van echte vrouwen en meisjes digitaal over hun lichaam heen worden geplaatst, zonder dat zij het weten of ermee instemmen. Dat betekent een stijging van 70 procent in het aantal gevallen in slechts 40 dagen, meldde persbureau Yonhap, wat de strijd van het land onderstreept om het gebruik van digitale technologie voor het seksueel misbruiken van vrouwen en meisjes te beteugelen.
Recente berichten over de snelle opkomst van deepfake-pornografie hebben geleid tot een nieuwe ronde van zelfonderzoek in een land waarvan de positieve bijdragen aan de mondiale popcultuur zijn aangetast door zijn status als de digitale hoofdstad van de seksmisdaad.
Het exacte aantal slachtoffers is moeilijk te verifiëren, maar als de huidige trend zich voortzet, zal Zuid-Korea naar verwachting tegen het einde van het jaar een recordaantal bereiken. Het aantal gemelde gevallen van deepfake-pornografie is de afgelopen jaren gestaag toegenomen, van 156 in 2021 naar 180 in 2023.
De slachtoffers zijn vooral jonge vrouwen en meisjes, onder wie studenten, leraren en soldaten. Vorig jaar was bijna tweederde tiener. Volgens lokale media zijn de daders vaak minderjarig. Volgens Yonhap waren tieners verantwoordelijk voor 79 procent van de gedetineerden in de eerste negen maanden van dit jaar.
De omvang van het probleem heeft veel Zuid-Koreanen verbijsterd. Eén chatroom van Telegram, bekend vanwege het maken en verspreiden van nepporno, had naar verluidt 220.000 leden en een andere meer dan 400.000 gebruikers. Sommige kamers moedigden leden aan om vrouwen te vernederen of te degraderen door middel van deepfakes.
Een paar jaar nadat Zuid-Korea er internationaal het nieuws mee haalde stilte Het probleem is dat de regering opnieuw onder druk staat om deze golf van online seksuele misdaden hard aan te pakken. Op 21 september zal er een groot protest plaatsvinden in Seoul.
Mondiaal deepfake-kapitaal
Zuid-Korea heeft de niet benijdenswaardige titel van het land dat het meest het doelwit is van deepfake-pornografie. De zangers en actrices zijn goed voor 53% van de personen die wereldwijd in deepfakes voorkomen, volgens een rapport uit 2023 van Security Hero, een Amerikaanse startup die zich richt op bescherming tegen identiteitsdiefstal.
De politie is een onderzoek naar Telegram gestart en de mediaregulator van het land is van plan gesprekken te voeren met vertegenwoordigers van de berichtenapp om een gezamenlijke reactie op het probleem te bespreken. Het ministerie van Onderwijs heeft een taskforce gelanceerd om incidenten op scholen te onderzoeken, kinderen te leren hoe ze hun afbeeldingen kunnen beschermen en steun te bieden aan slachtoffers.
John McGuire, hoogleraar filosofie aan de Hanyang Universiteit, zei dat onderwijs in digitale ethiek geen realistische oplossing is voor de problemen die verband houden met kunstmatige intelligentie. “Zuid-Korea is zojuist naar voren gekomen als testcase voor deze uitdaging”, zegt hij. “We zullen elk instrument nodig hebben dat we tot onze beschikking hebben om de huidige en toekomstige problemen in verband met AI-technologie op te lossen.”
Telegram, waarvan de oprichter vorige maand werd gearresteerd als onderdeel van een Frans onderzoek naar seksueel misbruik van kinderen, verontschuldigde zich “als er een element van misverstand was”. Het zei dat het tientallen video’s had verwijderd, sommige op verzoek van de mediawaakhond van het land. De Zuid-Koreaanse regering heeft gezegd dat ze zal aandringen op strengere wetten om het kopen of bekijken van zeer uitbuitende vervalsingen strafbaar te stellen.
Campagnevoerders zeggen echter dat het onwaarschijnlijk is dat de maatregelen de honger naar digitaal veranderd seksueel expliciet materiaal zullen onderdrukken. Zuid-Koreanen beschikken over enkele van de hoogste gemiddelde internetsnelheden en smartphonegebruikscijfers ter wereld, maar dit gecombineerd met de populariteit van Telegram, de vooruitgang op het gebied van kunstmatige intelligentie en lakse wetten hebben het probleem verergerd.
De premier van het land, Han Duck-soo, schreef de crisis donderdag toe aan de “abnormale ontwikkeling” van de sociale media en de vooruitgang op het gebied van AI, en niet aan het falen van de overheid.
De Zuid-Koreaanse autoriteiten zijn zich echter bewust van de gevaren van digitale manipulatie sinds 2019, toen uit de zogenoemde ‘n-de kamer’-zaak bleek dat vrouwen, waaronder minderjarige meisjes, gedwongen werden seksueel expliciete video’s te sturen die online circuleerden.
De politie vroeg Telegram om hulp bij hun onderzoek, maar werd naar verluidt genegeerd. De leider werd veroordeeld tot meer dan 40 jaar gevangenisstraf, maar vanwege censuur werd er geen actie ondernomen tegen Telegram.
“Online gendergerelateerd geweld is een groeiend mondiaal probleem, maar het is vooral wijdverspreid in Zuid-Korea”, zegt Heather Barr, adjunct-directeur van Human Rights Watch.
“Rechters, aanklagers, politie en wetgevers in Zuid-Korea, de overgrote meerderheid van de mannen, nemen deze misdaden niet serieus genoeg. Vrouwen die hulp zoeken bij de politie worden vaak ontslagen, opnieuw getraumatiseerd en zelfs belachelijk gemaakt. Er is heel weinig seksuele voorlichting op Zuid-Koreaanse scholen om jonge mensen te helpen begrijpen hoe verkeerd dit gedrag is.”
‘De wereld die ik kende is volledig ingestort’
Terwijl politici en autoriteiten worstelen om een oplossing te vinden, is er online voelbare woede, wat leidt tot petities op de website van de Nationale Assemblee waarin wordt opgeroepen tot strengere wetten.
De crisis heeft het onlinegedrag beïnvloed. Uit berichten blijkt dat veel kinderen foto’s van sociale media verwijderen of hun accounts deactiveren.
Een volwassen slachtoffer heeft gezegd dat het een “enorm trauma” was om haar aanvaller voor het gerecht te brengen nadat ze in 2021 een reeks Telegram-berichten ontving met expliciete nepbeelden waarop te zien was dat ze seksueel werd misbruikt.
Haar aanvaller was een medestudent aan de prestigieuze Seoul National University met wie ze zelden contact had, maar die ze zachtaardig vond. “Het was moeilijk te aanvaarden”, vertelde de vrouw, die om anonimiteit vroeg, aan Agence France-Presse.
‘De wereld die ik dacht te kennen is volledig ingestort’, zei ze in een brief die ze later deze maand aan de rechtbank wil voorleggen. “Niemand mag als object worden behandeld of als middel worden gebruikt om het minderwaardigheidscomplex van individuen zoals de beklaagden te compenseren, simpelweg omdat ze vrouwen zijn.”
De president van Zuid-Korea, Yoon Suk Yeol, riep de politie op om nepmisdrijven uit te roeien. Tijdens een recente kabinetsvergadering zei hij: “Sommige mensen doen het misschien af als een grap, maar het is duidelijk dat dit een criminele daad is waarbij technologie wordt uitgebuit achter het schild van anonimiteit.”
Meer dan 80 vrouwenrechtengroeperingen bekritiseerden de officiële reactie op de diepgewortelde hoaxes en noemden de crisis een bewijs van diepgewortelde genderdiscriminatie in een van de grootste economische en culturele grootmachten van Azië.
“De fundamentele oorzaak is structurele genderdiscriminatie, en de oplossing is gendergelijkheid”, stellen ze in de verklaring.
‘Wat uit de online ruimte moet worden verwijderd, is niet de zelfexpressie van vrouwen, maar een diepgewortelde mannencultuur. Noch Telegram, noch het zogenaamde gedrag van ‘vernederende kennissen’ is nieuw. Deepfake-technologie wordt gewoon, alsof het iets nieuws is, opgelegd aan vrouwenhaat die zonder toestemming de lichamen van vrouwen fotografeert, synthetiseert, bewerkt en verwerkt en vrouwen niet als medeburgers beschouwt.
K-poplabels waarvan de sterren tot de slachtoffers behoren, zijn in het debat betrokken. JYP Entertainment omschreef deepfake-pornografie als een ‘flagrante overtreding van de wet’.
Het grote aantal tieners onder de daders en slachtoffers zorgt ervoor dat de effecten van deepfakes voelbaar zijn op Zuid-Koreaanse scholen. Volgens de Korea Federation of Teachers’ Union voelen zelfs studenten en docenten die er niet rechtstreeks door getroffen zijn, ‘extreme angst en ongerustheid over het feit dat ze mogelijk worden gebruikt voor seksuele misdrijven of dat ze zonder hun medeweten online worden verspreid’.
Agentschappen hebben bijgedragen aan dit rapport