Dagboek van TikTok-moderator: 'Wij zijn de mensen die de rommel opruimen'

TikTok zegt dat het meer dan 40.000 professionals heeft die zich inzetten om het platform veilig te houden. Moderators werken samen met geautomatiseerde moderatiesystemen en beoordelen inhoud in meer dan 70 talen.

Eerder dit jaar nodigde TikTok journalisten uit in zijn nieuwe centrum voor ‘transparantie en verantwoording’, een stap die bedoeld was om te laten zien dat het bedrijf opener wil zijn. Hij vertelt dat moderators een gedegen opleiding krijgen en onder voortdurend toezicht staan.

Er is echter weinig bekend over het werkzame leven van deze teams. Eén moderator, die anoniem wilde blijven, legde aan The Guardian uit hoe moeilijk de klus zou kunnen zijn. Ze zeiden dat ze werden beoordeeld op hoe snel ze modereerden en hoeveel fouten ze maakten, waarbij bonussen en salarisverhogingen afhankelijk waren van het bereiken van bepaalde doelen.

Ze worden ook gevolgd. De moderator beweerde dat als ze vijf minuten inactief zijn, hun computer wordt uitgeschakeld en dat ze na 15 minuten inactiviteit verantwoording moeten afleggen aan de teamleider. “Onze snelheid en nauwkeurigheid worden voortdurend geanalyseerd en vergeleken met die van onze collega’s”, zeiden ze. “Het is behoorlijk zielvernietigend. Wij zijn de mensen in de nachtclub die de rommel opruimen na een avondje stappen.”

Hier is een account uit de eerste hand van een TikTok-moderator:

Training: ‘Iedereen was overweldigd’

Toen we lid werden, kregen we een maand intensieve training die zo intensief was dat het onmogelijk was om deze te absorberen. Het kostte zes tot zeven uur per dag om de regels te herzien. Dit zijn de regels die bepalen of een video moet worden gemarkeerd of niet. en voorbeeldvideo’s bekijken. Het was voor iedereen overweldigend. Aan het eind van de maand was er een test die de coach ons liet ondergaan, om er zeker van te zijn dat we allemaal slaagden. Dit gebeurde ook bij andere verplichte trainingen na de proefperiode.

Het volgende was een proefperiode van twee maanden, waarbij we oefenwachtrijen modereerden die bestonden uit honderdduizenden video’s die al waren gemodereerd. De regels die we op deze video’s hebben toegepast, zijn door een meer ervaren moderator vergeleken met wat er eerder op was toegepast, om gebieden te vinden waar we verbeteringen moeten aanbrengen. Allen hebben de proeftijd doorstaan.

Een trend waar moderators vooral een hekel aan hebben, zijn ‘recaps’. Ze bestaan uit een reeks beelden van 15 tot 60 seconden, soms honderden, die worden weergegeven als een supersnelle diavoorstelling, vaak met drie tot vier beelden per seconde. We moeten elk van deze foto’s bekijken voor de overtreding.

Als de video 60 seconden lang is, zal het systeem ons hiervoor ongeveer 48 seconden toewijzen. We moeten ook de videobeschrijving, accountbio en hashtags controleren. Rond het einde van het schooljaar of oudejaarsavond, wanneer dit soort video’s populair zijn, wordt het ongelooflijk uitputtend en heeft het ook invloed op onze statistieken.

Live: ‘Sommige trainingen waren al verouderd’

Nadat we de proeftijd hadden doorstaan, gingen we door naar de echte rangen. We realiseerden ons al snel dat een deel van de trainingen die we de afgelopen maanden hadden gedaan, al verouderd was vanwege beleidsupdates.

Er zijn “live” wachtrijen waarin u gebruikers modereert die live streamen. Dit is de eenvoudigste vorm van moderatie met minder regels… maar we komen ook vaak de ergste dingen tegen en kunnen vaak niets anders doen dan de livestream stoppen of beperkingen stellen aan de mogelijkheden van de gebruiker om te uploaden en live te gaan. Dan zijn er “geüploade” videowachtrijen waarvan de lengte kan variëren van enkele seconden tot een uur.

Er wachten maximaal zes video’s van het gebruikersaccount in één wachtrij op je en je moet beslissen of de accounteigenaar ouder of jonger dan 13 jaar oud is. In andere wachtrijen krijgt u één video te zien en moet u de relevante regels toepassen op eventuele overtredingen die u opmerkt. In de tweede rij modereer je de reacties.

Als we twijfelen over welk beleid we moeten toepassen – een veelvoorkomend probleem vanwege de vrijwel voortdurende aanpassingen, toevoegingen en verwijderingen van onze beleidsrichtlijnen – dan hebben we een team van adviseurs. Dit zijn moderators die gepromoveerd zijn, aanvullende beleidstraining hebben gevolgd en op de hoogte zijn van komende beleidswijzigingen. Ze doen geweldig werk, maar we hebben een paar seconden om dit beleid ten uitvoer te leggen [and] het kan minuten, uren of dagen duren voordat u een reactie krijgt, vooral als het om een voortdurende gebeurtenis gaat, zoals een oorlog of een ramp.

Alles wat we doen wordt bijgehouden door onze laptop, die na vijf minuten zonder invoer vergrendelt. We modereren video’s die maximaal een uur duren, dus we moeten de muis om de paar minuten bewegen om te voorkomen dat dit gebeurt. Als de moderatiesoftware die wij gebruiken gedurende 15 minuten geen input ontvangt, verandert uw status automatisch naar “inactief”. Dit kan gebeuren als uw internet uitvalt of als u vergeet uw moderatiestatus te wijzigen in een vergadering/lunchstatus.

Alle inactieven worden geregistreerd, onderzocht en meegeteld in uw prestatiebeoordeling. U dient de omstandigheden van uw stilstand aan de teamleider te melden en dit in het dialoogvenster in de software toe te lichten.

We werden ingehuurd om Engels te modereren en moesten onze vaardigheid bewijzen als onderdeel van het wervingsproces, maar een groot deel van wat we modereren is niet in het Engels. Wanneer dit gebeurt, wordt ons verteld om te matigen wat we zien.

‘Je hebt geen controle over wat je ontvangt’

In de videowachtrij heb je geen controle over wat je ontvangt. We krijgen 10 video’s tegelijk om te modereren voordat we ze allemaal versturen. Een typische selectie van video’s die we krijgen, ziet er als volgt uit:

Video’s over identiteitsdiefstal en oplichting over een keuze uit vreemde talen die gegarandeerde goedbetaalde banen bij gerenommeerde bedrijven beloven en instructies hebben voor het verzenden van cv’s naar een Telegram-account.
Sekswerkers proberen je door te verwijzen naar hun OnlyFans enzovoort zonder dat je OnlyFans kunt noemen. Ze gebruiken verschillende jargontermen en emoji’s om aan te geven dat ze een account hebben op OnlyFans, evenals instructies om ‘je Instagram te controleren op meer’, wat betekent dat directe links naar OnlyFans weliswaar niet zijn toegestaan op TikTok, maar dat het gebruik van de app Als u het Instagram-profiel van een gebruiker wilt openen, is de link slechts een paar klikken verwijderd.
10 tot 60 minuten ‘Maak je klaar met mij‘ geüpload door een minderjarige gebruiker waar ze zich aankleden en zich klaarmaken voor school.
Samenvatting video met honderden foto’s en clips van het hele schooljaar geüpload door iemand die net zijn eindejaarsexamen heeft gedaan.
Beelden van bekende YouTubers en streamers de meest controversiële momenten, of populaire tv-programma’s zoals South Park of Family Guy in de bovenste helft van de video en Subway Surfers/Grand Theft Auto in de onderste helft.
Een expliciete video van vier minuten hardcore pornografie.
Video’s die laten zien wat islamitisch zou kunnen zijnst. een extremist militanten maar met weinig of geen context omdat geen van de tekst en gesproken taal in een taal is die u moet modereren of begrijpen.
Beelden uit de eerste hand van jonge mannen/tieners die elektrisch gereedschap gebruiken om geselecteerde motoren/scooters/auto’s te stelen, gevolgd door clips waarin ze gevaarlijk rijden, voertuigen vernielen of te koop aanbieden.
Live-opnamestroom het gebeurde op TikTok en werd opnieuw gepost, mogelijk omdat het controversiële opmerkingen of gedrag bevat.
Lijst met naam, adres, werkplek van een persoon en andere persoonsgegevens gevolgd door intimiderende uitspraken of verzoeken tot geweld tegen een persoon.

Je modereert deze video’s, je verzendt ze en je krijgt er meteen nog 10. Je doet dit de hele dag. Na de lunch ga je naar de reactiewachtrij omdat er een achterstand is. De rest van de middag besteed je aan het doorzoeken van bedreigingen, intimidatie, racisme en toespelingen.

TikTok weigerde commentaar te geven op de plaat. Het benadrukte echter dat de ‘moderatorsystemen’ niet na vijf minuten worden uitgeschakeld, en zei dat ze de term ‘samenvattingen’ niet herkennen. In reactie op andere verhalen over de app die onder de loep wordt genomen, staat er: “Deze beschuldigingen over het beleid van TikTok zijn verkeerd of gebaseerd op misverstanden, terwijl de Guardian ons niet genoeg informatie heeft gegeven over hun andere claims om deze te onderzoeken.”