Nu de verkiezingen van 2024 naderen, waarschuwen deskundigen dat de belangrijkste socialemediabedrijven hun essentieel veiligheidsbeleid hebben ingetrokken en het moderatiepersoneel hebben ontslagen, waardoor een ‘giftige onlineomgeving’ is ontstaan die kwetsbaar is voor uitbuiting en die de democratie bedreigt.
Een nieuw onderzoek van non-profit mediaorganisatie Free Press heeft 17 belangrijke platformbeleidslijnen gedocumenteerd die de integriteit van online-inhoud aantasten en die het afgelopen jaar opnieuw zijn ingevoerd bij Alphabet, Meta en Twitter/X. Hij noemde ook meer dan 40.000 ontslagen bij deze bedrijven als een bedreiging voor de gezondheid en veiligheid van hun platforms.
“De vloed aan valse, haatzaaiende en gewelddadige inhoud op sociale mediaplatforms staat op het punt van zeer kwaad tot erger te worden in 2024 – op manieren die onze democratie en levens in verdere chaos zullen storten”, zegt Nora Benavidez, senior adviseur bij Free Press en auteursrapporten. “Grote tech-managers als Elon Musk en Mark Zuckerberg namen roekeloze beslissingen om hun winsten te maximaliseren en hun verantwoordelijkheid te minimaliseren.”
Meta en Alphabet reageerden niet onmiddellijk op een verzoek om commentaar. Een e-mail aan X kreeg een automatisch antwoord.
De studie citeerde een reeks ‘opzienbarende’ beleidswijzigingen die bedoeld waren om verkiezingen te beschermen, waarvan er vele werden ingevoerd na de Capitoolrellen van 6 januari die volgden op de presidentsverkiezingen van 2020.
Eén daarvan is dat YouTube in juni zijn verkiezingsintegriteitsbeleid heeft gewijzigd om opnieuw toe te staan dat inhoud die de geldigheid van de verkiezingen van 2020 in twijfel trekt, op het platform blijft staan. X deed hetzelfde in 2022. Meta, X en YouTube herstelden de accounts van Donald Trump, ondanks zijn buitensporige rol bij het ondersteunen en aanzetten tot de rel van 6 januari op internet. Meta slaagde er niet in haar eigen beleid af te dwingen dat het labelen van politieke advertenties vereiste, en X kondigde in augustus, als omkering van het beleid, aan dat het nu politieke advertenties zou toestaan.
“Het toestaan van deze advertenties, gezien de erbarmelijke staat van contentmoderatie en het gebrek aan werknemers om content te beoordelen, maakt platforms rijp voor misbruik en kwetsbaar voor slechte actoren die de grenzen verleggen van wat acceptabel is”, aldus Benavidez.
Het rapport vraagt zich ook af hoe het enorme aantal ontslagen in 2023 de verspreiding van haatzaaiende uitlatingen en desinformatie online zal beïnvloeden. In 2023 ontsloeg Meta meer dan 20.000 mensen, waaronder het team dat een tool voor feitencontrole bouwde om desinformatie op te sporen en te verwijderen. Naar verluidt heeft het begin januari ook ongeveer 200 contentmoderators uit zijn gelederen geschrapt en later in het jaar meer dan 100 vertrouwens-, integriteits- en verantwoordingsfuncties geëlimineerd.
De ‘grootste mislukking’ van de platforms die het afgelopen jaar zijn onderzocht, was volgens Benavidez Twitter – dat Elon Musk omdoopte tot X nadat hij zijn personeel had ontslagen. Het bedrijf ontsloeg 7.000 mensen nadat Musk het platform had overgenomen, ofwel 82% van het personeel. Bij die ontslagen was het hele vertrouwens- en veiligheidsteam betrokken, evenals aannemers die verantwoordelijk waren voor het modereren van de inhoud – wat, zo zeiden experts, snel leidde tot een piek in desinformatie en haatzaaiende uitlatingen.
“De erosie van Twitter is zowel snel als zeer wijdverspreid geweest in teams, gebruikerservaring en back-end-functies”, aldus Benavidez.
na het promoten van de nieuwsbrief
Alphabet, het moederbedrijf van YouTube, ontslaat in 2023 ongeveer 12.600 mensen – maar omdat er “bijna geen transparantie” is over de teams die door de ontslagen worden getroffen, is het volgens het rapport onduidelijk hoe dat de moderatie zal beïnvloeden. Volgens het onderzoek was TikTok zelfs het enige grote platform dat het afgelopen jaar geen enkel belangrijk beleid inzake verkiezingsintegriteit teniet heeft gedaan.
De Free Press-studie riep socialemediabedrijven op om het anti-desinformatiebeleid opnieuw in te voeren en publiceerde een reeks aanbevelingen die tegen februari 2024 moesten worden geïmplementeerd. Hij merkt op dat dergelijk beleid vaak pas maanden of weken vóór de verkiezingen wordt aangekondigd – vaak als het al te laat is.
Deze aanbevelingen omvatten onder meer dat sociale-mediabedrijven opnieuw investeren in vertrouwens- en beveiligingsteams, het geëlimineerde beleid opnieuw invoeren en meer transparantie- en openbaarmakingsbeleid ontwikkelen. Het rapport roept politici ook op om hervormingen te codificeren die de hoeveelheid gegevens die bedrijven verzamelen en bewaren minimaliseren en algoritmische discriminatie te verbieden.
“De zaden van leugens en machteloosheid worden geplant lang voordat deze platforminterventies worden geïmplementeerd”, zei Benavidez. “We hebben bijna geen tijd meer.”