De vrouw verklaart, in het licht geaccentueerde Mandarijn, dat de Chinezen met “ons Russische vrouwen” moeten trouwen. In andere video’s op het Chinese korte videoplatform Douyin beschrijft ze hoeveel ze van Chinees eten en het valkzout en de zeep van haar land houdt. ‘De Russen bedriegen de Chinezen niet’, belooft ze.
Maar haar lipbewegingen komen niet precies overeen met het geluid van de video’s, die onlangs op een account met de naam ‘Ladina’ zijn geplaatst. Dat komt omdat het een AI-bewerkte video is van Shadé Zahrai, een Australische carrièrestrateeg met meer dan 1,7 miljoen TikTok-volgers. Iemand heeft de videoclips van mevrouw Zahrai nagesynchroniseerd met een stem die Mandarijn-Chinees sprak, zodat het leek alsof ze Russische producten verkocht.
Welkom bij een bloeiend genre op de Chinese sociale media: AI-gemanipuleerde video’s waarin jonge, zogenaamd Russische vrouwen worden gebruikt om steun te verwerven voor Chinees-Russische banden, patriottische hartstocht aan te wakkeren of geld te verdienen – en soms alle drie tegelijk.
Het is onduidelijk wie er achter veel van de video’s zit, maar de meeste video’s leiden de kijkers uiteindelijk naar een productlink, wat erop wijst dat het primaire doel commercieel is. De belangrijkste doelgroep lijkt nationalistische Chinezen te zijn.
De video’s zijn vaak getagd met hashtags zoals “Russische vrouw” en “Russische schoonheid”. De afgebeelde vrouwen beschrijven hoe succesvol Chinese mannen zijn of pleiten ervoor hen te redden uit de armoede of hun eigen, minder idyllische land.
Een andere reeks video’s toont een blonde vrouw die haar dankbaarheid beschrijft voor de landing in China.
“Ik ben echt jaloers op mijn Chinese vrienden. Je bent geboren met de kostbaarste identiteit ter wereld en de meest diepgaande en charmante taal”, zegt ze in een video die op een ander Instagram-achtig platform, Xiaohongshu, is geplaatst.
Een andere video toont een vrouw die het Chinese volk bedankt voor het steunen van Rusland in zijn economische moeilijkheden door Russische chocolaatjes van haar te kopen. ‘Het afgelopen jaar heeft de hele wereld Rusland geboycot en ons allerlei beperkingen en moeilijkheden opgelegd. China is als een redder”, zegt ze.
Deze video’s zagen er veel natuurlijker uit, waarbij de vrouw lipsynchroniseerde in vloeiend Mandarijn. Maar ze zijn ook nep. Ze zijn een bewerking van YouTube-video’s die zijn geüpload door Olga Loiek, een studente wier echte video’s gaan over zelfverbetering en haar jaar in Duitsland.
Mevrouw Loiek spreekt geen Chinees. En ze zou Rusland nooit zo prijzen, zei ze in een interview. Ze komt uit Oekraïne en een aantal van haar familieleden zijn daar nog steeds.
De auteurs van deze video’s proberen te profiteren van de markt die is gecreëerd door het huidige Chinese moment van geopolitiek, technologie en publieke sentimenten.
De betrekkingen tussen Rusland en China zijn de afgelopen jaren aanzienlijk verdiept, waarbij de leiders van de twee landen, Vladimir V. Poetin en Xi Jinping, een partnerschap zonder beperkingen afkondigden, ondanks de toenemende vijandigheid vanuit het Westen. Poetin bezocht vorige week Peking, waar Xi hem met veel tamtam verwelkomde.
Het gebruik van buitenlandse gezichten om China te prijzen is ook bedoeld om het gevoel van nationale trots, of nationalisme, onder het Chinese publiek aan te boren. Nationalistische inhoud is een van de veiligste aanjagers van internetverkeer in China geworden, in een censuuromgeving waarin steeds meer onderwerpen verboden zijn.
Dat nationalisme omvatte – net als nationalisme over de hele wereld – vaak een vorm van seksisme, zegt Chenchen Zhang, hoogleraar internationale betrekkingen aan de Universiteit van Durham in Engeland.
“Deze weergave van jonge blanke vrouwen op seksueel geobjectiveerde manieren is een typisch voorbeeld van gendernationalisme of nationalistisch seksisme”, schreef professor Zhang in een e-mail. “Kijkers kunnen hun nationalistische en mannelijke trots opnieuw bevestigen door deze inhoud te consumeren.”
In verschillende video’s waarin een vervalste afbeelding van mevrouw Zahrai te zien is, noemt het neppersonage zijn kijkers ‘grote broers’. De persoon merkt ook op dat Rusland deze producten niet verkoopt aan Japan of Zuid-Korea, twee landen waarmee China moeizame relaties onderhoudt.
De Chinese overheid heeft online nationalisme vaak aangemoedigd, maar er zijn geen aanwijzingen dat dit iets te maken heeft met de deepfake-video’s (hoewel sommige lokale overheden samenwerken met echte Russische vrouwen om soortgelijke boodschappen over de aantrekkingskracht van China te promoten). Er is ook een kleine economie van echte Russische beïnvloeders op de Chinese sociale media, van wie velen jonge vrouwen zijn.
Veel videomakers profiteren misschien eenvoudigweg van de Chinese omarming van winkelen via livestreams en korte video’s. Naarmate de AI-technologie geavanceerder is geworden, zijn sommige Chinese bedrijven al overgestapt van echte naar virtuele verkopers om geld te besparen.
Kunstmatig gegenereerde video’s zullen waarschijnlijk steeds gebruikelijker worden als verkooptactiek, omdat de AI-technologie zo snel vooruit is gegaan en veel toegankelijker is geworden voor het grote publiek, zegt Haibing Lu, een professor aan de Santa Clara Universiteit die het beheer van kunstmatige intelligentie bestudeert.
Het managementbedrijf van mevrouw Zahrai zei in een e-mail dat de AI-mods van “slechte kwaliteit” waren en “waarschijnlijk nep zouden lijken”, zelfs voor gewone kijkers. Sommige video’s op het account werden slechts enkele tientallen keer bekeken, terwijl de video over het trouwen met Russische vrouwen 22.000 keer bekeken werd.
Het leek niet uit te maken. Een automatische teller die in een van de video’s op het account verschijnt, suggereert dat het aangeboden merk zout al 360.000 keer op het platform is gekocht.
Toen de New York Times contact opnam met het account van Douyin waarin de video’s van mevrouw Zahrai werden gemanipuleerd, bevestigde de accounteigenaar in een audiobericht dat hij de video’s had gemaakt. “Je hebt drie dingen ingesteld: audio, video en mond. Je kunt elke video maken die je wilt’, zei hij voordat hij zijn vriendschap met de verslaggever beëindigde.
Het niveau van verfijning varieert. Sommige nepvrouwen zien er volledig door de computer gegenereerd uit, bewegen stijf en zien eruit als veredelde Sims. Sommige, zoals die met de persoonlijkheid van mevrouw Loiek, zijn erg goed.
“Ook al wist ik dat ik het niet was, het realisme was angstaanjagend”, zegt mevrouw Loiek, die onlangs hoorde dat meer dan dertig verschillende sociale media-accounts in China haar imago hadden gekocht. “Toen ik besloot mijn YouTube-kanaal te maken, was ik me bewust van het gevaar van deepfakes, maar ik geloofde dat dit vooral een zorg was voor beroemde politieke en entertainmentfiguren. Nu besef ik dat iedereen die video’s van zichzelf online heeft, hier last van kan hebben.”
Mevrouw Loiek rapporteerde verhalen over Xiaohongshu en maakte een YouTube-video over haar ervaringen. Uiteindelijk werden de meeste profielen die haar persona gebruikten, gesloten.
De afgelopen weken hebben sociale-mediaplatforms de controles aangescherpt, AI-video’s verwijderd of labels aan sommige ervan toegevoegd. China was het eerste land dat regelgeving rond generatieve kunstmatige intelligentie heeft aangenomen, en op papier is een deel van het beleid strenger dan dat van het Westen.
Maar landen over de hele wereld hebben moeite om hun regels af te dwingen. Het opsporen van wangedrag kan bijzonder moeilijk zijn in China, vanwege de gesloten internetomgeving, waar veel buitenlandse sociale netwerken verboden zijn.
Het is onwaarschijnlijk dat buitenlandse influencers weten dat hun afbeelding op Chinese sociale media is gebruikt en dienen een klacht over auteursrecht in. En Chinese platforms mogen ook niet vertrouwen op buitenlandse inhoud bij het controleren op AI-manipulatie, zei een 35-jarige man die twee accounts beheerde met door AI gegenereerde Russische vrouwen. De man, die alleen zijn achternaam Chen opgaf, zei dat hij ongeveer $1.000 per maand verdiende op de rekeningen voordat hij ze in maart sloot, uit angst voor meer regelgeving.
Maar er verspreidt zich nog steeds meer. En Rusland is nu misschien een hot topic, maar de praktijk zal zich waarschijnlijk verspreiden naar wat de volgende trend ook is, zei professor Lu uit Santa Clara.
“De mensen hierachter zouden elk mogelijk onderwerp manipuleren om de aandacht van mensen te trekken”, zei hij. “Laat ouders zien ‘hoe ze naar de beste scholen kunnen gaan’; ‘hoe mooi te worden’ voor jonge dames. Ik geloof dat iedereen in de toekomst AI-technologie zal gebruiken om thema’s aan te passen om video’s aantrekkelijk te maken voor een specifiek publiek.”