Zuid-Korea onderzoekt Telegram vanwege vermeende sekshoaxes: NPR

SEOUL, Zuid-Korea – Studenten van alle leeftijden, leraren, soldaten en nu journalisten. Steeds meer gewone Zuid-Koreaanse vrouwen worden het doelwit van een snelgroeiende vorm van digitale seksuele intimidatie: deepfakes.

De Zuid-Koreaanse autoriteiten proberen te reageren nadat lokale media en grassroots-groepen onlangs een groot aantal chatrooms op de berichten-app Telegram hebben ontdekt die nep-seksuele afbeeldingen en video’s verspreiden die zijn gemaakt door kunstmatige intelligentie.

De Koreaanse Nationale Politie, die vorige week hardhandig optreden tegen seksueel misbruikende deepfakes aankondigde, zei maandag dat ze een onderzoek naar Telegram was begonnen vanwege mogelijke beschuldigingen van medeplichtigheid aan de verspreiding van seksueel expliciete deepfakes op zijn platform.

Het bureau zegt dat het de eerste keer is dat de Zuid-Koreaanse wetshandhaving een onderzoek heeft ingesteld naar het bedrijf, waarvan de oprichter Pavel Durov vorige maand in Frankrijk werd gearresteerd en aangeklaagd wegens vermeende illegale activiteiten op het platform.

Telegram-woordvoerder Remi Vaughn vertelde NPR dat het bedrijf “actief inhoud heeft verwijderd die uit Korea is gerapporteerd en die de servicevoorwaarden schendt en dat zal blijven doen.”

De Korea Communications Standards Commission, de mediawaakhond van de regering, zei dat Telegram aan zijn verzoek heeft voldaan en 25 door de commissie geïdentificeerde deepfakes heeft verwijderd.

De overgrote meerderheid van de deepfake-slachtoffers in Zuid-Korea zijn vrouwen en tienermeisjes, volgens journalisten en activisten die sommige chatrooms hebben gemonitord.

Volgens lokale mediaberichten pikken de daders zonder hun medeweten of toestemming beelden van slachtoffers van sociale media. Of ze maken thuis of op school stiekem foto’s van de vrouwen om hen heen. Vervolgens passen ze de beelden aan met behulp van kunstmatige intelligentie en delen ze de resultaten op Telegram met vreemden of gebruikers die het slachtoffer kennen.

Sommige chatrooms, die voorkomen bij zoekopdrachten naar termen als ‘vergaderruimte’ of ‘vernederingsruimte’, hebben duizenden deelnemers.

Het aantal van dergelijke chatrooms dat op Telegram actief is en de omvang van hun vermeende misbruik zijn onduidelijk. Veel chatrooms zijn gesloten en alleen toegankelijk met een uitnodigingslink of toestemming van de chatroombeheerder, en sommige zijn naar verluidt gesloten sinds activisten en de media ze begonnen te monitoren.

Donderdag zei de oprichter en CEO van het platform, Durov, in een Telegram-post dat het bedrijf “vastbesloten is om samen te werken met toezichthouders om de juiste balans te vinden” tussen privacy en veiligheid, terwijl hij erkent dat het platform “gemakkelijker te misbruiken is door criminelen”.

Maar gegevens van Zuid-Koreaanse wetshandhavings- en overheidsinstanties laten een scherpe stijging zien van digitale seksmisdaden waarbij nepbeelden betrokken zijn in het land.

De mediawaakhond van de regering zei dat zij van januari tot juli van dit jaar bijna 6.500 verzoeken heeft ontvangen om seksueel misbruikende deepfake-video’s aan te pakken – vier keer zoveel als het aantal verzoeken in dezelfde periode vorig jaar.

Volgens politiegegevens zijn er in de eerste zeven maanden van dit jaar 297 gevallen van misdaden waarbij seksueel expliciete deepfakes betrokken zijn, gemeld, vergeleken met 180 in heel 2023.

Veel slachtoffers en daders zijn tieners. Van de 178 verdachten die in de periode van zeven maanden door de politie zijn gemeld, was 74% tussen de 10 en 19 jaar oud, tegen 65% in 2021. En meer dan de helft van de deep fakers die dit jaar door het Advocacy Center van de regering zijn gevonden en vrijgesproken seks op internet Tot de slachtoffers van misbruik behoorden ook minderjarigen.

Daders vallen vrouwen lastig

Zuid-Korea heeft lang gevochten tegen seksuele misdrijven, waaronder illegaal filmmaken, bezwaren tegen de verspreiding van seksueel expliciete beelden, online verzorging en seksuele chantage.

De makers achter het soort deepfakes dat op Telegram voorkomt, richten zich volgens experts op het gebied van online seksmisdaad vaak op vrouwen die ze persoonlijk kennen, in plaats van op willekeurige vreemden.

Voor slachtoffers gaat de schade van dergelijke aanvallen door iemand die ze kennen verder dan een schending van hun privacy, zegt Chang Dahye, een onderzoeker aan het Korea Institute of Criminology and Justice in Seoul, die online seksueel geweld heeft bestudeerd.

“Ze verliezen het vertrouwen in hun gemeenschap”, zegt Chang. “Ze zijn bang dat ze hun dagelijks leven niet meer kunnen volhouden met de mensen om hen heen. Hun vertrouwen in sociale relaties is feitelijk aan het instorten.”

Wat volgens Chang ook deepfake seksueel misbruik onderscheidt van andere misdaden, is hun doel.

Sommige daders worden gemotiveerd door geld of kwaadwilligheid.

Maar, zegt Chang, “voor de meerderheid van de mannen die deze inhoud consumeren, is het doel vrouwen in het algemeen in diskrediet te brengen.”

Ze legt uit dat deepfakes herkenbare gezichten benadrukken en vaak gepaard gaan met verbale seksuele intimidatie.

“Het is een vorm van uiting van vrouwenhaat en woede jegens vrouwen. Door vrouwen te bespotten en te kleineren, krijgen ze bevestiging van elkaar”, zegt Chang.

In een gezamenlijke verklaring vorige week zeiden vrouwenrechtengroepen dat de ‘oorzaak’ van terugkerend digitaal seksueel misbruik seksisme is. Ze beschuldigden de regering van president Yoon Suk Yeol ervan dit niet te onderkennen en het probleem te laten groeien.

Yoon zei dat ‘structureel seksisme niet langer bestaat’ in Zuid-Korea en beloofde het ministerie van Gendergelijkheid en Gezin af te schaffen.

De functie van de minister is sinds februari vacant en de begroting van het ministerie voor het voorkomen van geweld tegen vrouwen en het helpen van slachtoffers is dit jaar aanzienlijk verlaagd. In een onlangs vrijgegeven begrotingsvoorstel voor volgend jaar werd de financiering voor het Online Sexual Abuse Advocacy Center, dat materiaal over seksueel misbruik van internet verwijdert, verlaagd ten opzichte van het voorgaande jaar, ondanks de groeiende werkdruk van het centrum.

Ondanks deze bezuinigingen hebben de uit meerdere instanties bestaande noodtaskforce van de regering en de regerende People Power Party onlangs beloofd het onderzoek en de straffen voor valse misdaden op te voeren en de steun voor de slachtoffers te vergroten.

Wetten met betrekking tot digitaal seksueel misbruik zijn geleidelijk geëvolueerd terwijl ze proberen nieuwe soorten misdaad in te halen die voortkomen uit nieuwe technologieën. Volgens Chang van het Korea Institute of Criminology and Justice laat dit een constante kloof bestaan ​​tussen wat slachtoffers als schade ervaren en wat de wet als misdaad beschouwt.

Zelfs als een daad wordt vervolgd op grond van de wet, die momenteel vals of frauduleus materiaal strafbaar stelt dat “seksueel verlangen of schaamte kan opwekken” en dat is gemaakt “met het doel van verspreiding”, ontlopen de daders vaak hun straf.

Het arrestatiepercentage voor nep-seksmateriaal bedroeg vorig jaar 48%, veel lager dan het percentage voor andere vormen van digitaal seksueel geweld, zo blijkt uit politiestatistieken.

En volgens een analyse van de Zuid-Koreaanse televisiezender MBC krijgt ongeveer de helft van hen, zelfs als ze voor de rechtbank worden berecht, voorwaardelijke straffen.

Chang zegt dat het rechtssysteem nog steeds moeite heeft om digitaal seksueel misbruik te erkennen als een ernstig misdrijf met echte slachtoffers. “In veel gevallen denken rechters dat de schade niet zo ernstig is als bij seksueel misbruik waarbij direct fysiek contact betrokken is”, zegt ze.

NPR-correspondent Anthony Kuhn droeg verslag uit vanuit Seoul, Zuid-Korea.