Meta heeft moeite met het modereren van inhoud gerelateerd aan de Israëlisch-Palestijnse oorlog, vooral in het Hebreeuws, ondanks recente interne beleidswijzigingen, zo blijkt uit nieuwe documenten.
Interne beleidsrichtlijnen die met de Guardian zijn gedeeld door een voormalige Meta-medewerker die aan contentmoderatie heeft gewerkt, schetsen een gelaagd proces voor het modereren van conflictgerelateerde inhoud. Maar uit de documenten blijkt dat Meta, eigenaar van de Facebook-, Instagram- en WhatsApp-platforms, niet over dezelfde processen beschikt om de nauwkeurigheid van de inhoudsmoderatie in het Hebreeuws en Arabisch te beoordelen.
De werknemer, die de Guardian niet citeert uit geloofwaardige angst voor professionele represailles, zei dat Meta’s beleid met betrekking tot haatzaaiende uitlatingen jegens Palestina oneerlijk was, een beoordeling die werd herhaald door Palestijnse voorstanders.
Ze zeiden ook dat sommige werknemers in de frontlinie van de voortdurende informatiestrijd rond het conflict zich geen zorgen maken uit angst voor vergelding, volgens een recente brief ondertekend door meer dan 200 Meta-arbeiders. Deze termen, zo zei de voormalige werknemer, wekken de indruk dat de prioriteiten van het bedrijf “niet gaan over het daadwerkelijk garanderen dat de inhoud veilig is voor de gemeenschap.”
De documenten, die sinds dit voorjaar actueel zijn, komen omdat Meta en andere sociale platforms kritiek hebben gekregen vanwege hun aanpak van verdeeldheid zaaiende conflicten, waarbij taalkeuzes en gematigdheid tijdens het laatste nieuws ernstige gevolgen kunnen hebben. In juni stuurde een coalitie van 49 maatschappelijke organisaties en talrijke prominente Palestijnen Meta een brief waarin ze het bedrijf ervan beschuldigden “regeringen te helpen bij genocide” via haar inhoudsmatigingsbeleid.
“Als Palestijnse stemmen op metaplatforms het zwijgen worden opgelegd, heeft dat zeer directe gevolgen voor Palestijnse levens”, zegt Cat Knarr van de Amerikaanse Campaign for Palestijnse Rechten, die de brief opstelde. ‘Mensen horen niet wat er in Palestina gebeurt, maar ze horen de propaganda die de Palestijnen ontmenselijkt. De gevolgen zijn zeer gevaarlijk en zeer reëel.”
Ongelijkheid bij het modereren van inhoud per taal is al lang een bestaande kritiek op Meta, zoals Facebook-klokkenluider Frances Haugen aan een Amerikaanse Senaatscommissie vertelde dat hoewel slechts 9% van de gebruikers van de socialemediagigant Engels spreekt, 87% van zijn desinformatie-uitgaven daaraan wordt besteed. categorie.
De inhoudelijke begeleidingsdocumenten, uitgegeven in de nasleep van de Hamas-aanval op Israël en de Gaza-oorlog van 7 oktober, werpen licht op een reeks politieke beslissingen over gematigdheid in de Meta.
Deze omvatten het beleid van het bedrijf inzake haatzaaiende uitlatingen en de boycotbeweging. Het beleid vereist het verwijderen van de uitspraken ‘Joodse winkels boycotten’ en ‘Islamitische winkels boycotten’, maar staat de uitdrukking ‘Arabische winkels boycotten’ toe, aldus interne documenten.
Tracy Clayton, woordvoerster van Meta, zei: “in de context en voor de duur van deze crisis” is het beleid van Meta om oproepen tot boycots uitsluitend op basis van religie te verwijderen, maar oproepen om bedrijven te boycotten toe te staan “op basis van beschermde kenmerken zoals nationaliteit. “Omdat ze meestal “gerelateerd zijn aan politieke uitingen, of bedoeld zijn als een vorm van protest tegen een bepaalde regering”.
Als zodanig, zei de woordvoerder, zijn de uitdrukkingen “Israëlische winkels boycotten” of “Arabische winkels boycotten” toegestaan. Het beleid dat in de interne documenten wordt geschetst, is specifieker en bevat uitdrukkingen als “hier zijn geen Israëlische goederen toegestaan totdat ze stoppen met het plegen van oorlogsmisdaden”, evenals “het boycotten van Arabische winkels.”
Het beleid onderstreept dat Meta “geen genuanceerd of nauwkeurig begrip heeft van de regio”, betoogde Nadim Nashif, oprichter en directeur van 7amleh, een non-profitorganisatie die pleit voor Palestijnse digitale rechten.
“De Arabische identiteit bestaat uit mensen uit de hele regio uit veel verschillende landen, terwijl de Israëlische identiteit bestaat uit individuen uit één natiestaat die de Palestijnen bezet en onderdrukt, als een subgroep van de Arabische bevolking”, zei hij. “De opstelling van de Meta is om deze reden inherent bevooroordeeld tegen Israël.”
Evaluatie van de effectiviteit van de matiging van haatzaaiende uitlatingen in het Hebreeuws
De recente documenten bieden ook een nieuw inzicht in het vermogen van Meta om de kwaliteit van haar eigen inhoudsmoderatie in het Arabisch en Hebreeuws te meten.
Meta heeft een systeem om de ‘beleidsnauwkeurigheid’ van de handhaving van inhoud in meerdere talen bij te houden. Dit betekent dat het kwaliteitssysteem van het bedrijf – met behulp van menselijke experts – het werk van de belangrijkste moderators en systemen beoordeelt en evalueert hoe goed de beslissingen van die moderators en systemen voldoen aan het Meta-beleid over wat wel en niet is toegestaan op Facebook en Instagram . Het kwaliteitmeetprogramma genereert vervolgens een nauwkeurigheidsscore door de prestaties van contentmoderatie op verschillende platforms te volgen, volgens documenten en voormalige medewerkers.
Er is een beoordelingssysteem opgezet voor talen als Engels, Spaans, Arabisch en Thais. Maar voor een deel van de beslissingen over de inhoud van de Hebreeuwse taal werd een dergelijke score als ‘onhaalbaar’ beschouwd vanwege het ‘gebrek aan vertaling’, zo blijkt uit de documenten. Een voormalige medewerker zei dat dit te wijten was aan een gebrek aan menselijke beoordelaars met kennis van de Hebreeuwse taal.
Meta zegt dat het “meerdere systemen” heeft om de nauwkeurigheid van de toepassing van Hebreeuwstalige inhoudsmoderatie te meten, inclusief scores door Hebreeuwssprekende recensenten en auditors.
Uit de documenten blijkt echter dat er geen “precieze beleidsmaatregel” bestaat voor handhaving in het Hebreeuws, en een voormalige werknemer zei dat, omdat het Hebreeuws niet in het systeem is opgenomen, dit soort applicatieverificatie op de Hebreeuwse markt op een “ad hoc-basis” wordt uitgevoerd. “basis, want in tegenstelling tot de Arabische markt.
Deze discrepantie betekent dat het bedrijf de inhoud in de officiële taal van Israël minder systematisch beoordeelt dan in de Palestijnse taal, zei de voormalige werknemer. Het verschil impliceert een “vooroordeel in de manier waarop ze inhoud implementeren”, wat mogelijk kan leiden tot een overmatige oplegging van Arabischtalige inhoud, voegde ze eraan toe.
Hebreeuws, dat door ongeveer 10 miljoen mensen wordt gesproken, vormt een veel kleiner deel van Meta’s posts op sociale media dan het Arabisch, dat door ongeveer 400 miljoen mensen wordt gesproken. Critici zeggen dat de aanhoudende oorlog vraagt om meer aandacht voor Hebreeuwstalige inhoud, en Meta heeft eerder vragen gekregen over de moderatie van Hebreeuwstalige berichten. Een onafhankelijke analyse uit 2022 in opdracht van de technologiegigant concludeerde dat zijn moderatiesysteem Arabische sprekers vaker bestrafte dan Hebreeuwse sprekers tijdens de verhoogde spanningen in het Israëlisch-Palestijnse conflict van 2021 in 2021 – zelfs als er rekening werd gehouden met het verschil in het aantal sprekers. . Volgens de analyse markeerden Meta-systemen automatisch Arabische inhoud in een “aanzienlijk hoger” tempo dan Hebreeuwse inhoud. Het beleid van het bedrijf “kan hebben geresulteerd in een onbedoelde vooringenomenheid door het grotere opleggen van Arabische inhoud vergeleken met Hebreeuwse inhoud”, aldus het rapport.
De ongelijkheid wordt gedeeltelijk toegeschreven aan het feit dat Meta destijds een Arabische ‘haatzaaiende classificatie’ gebruikte, die automatische detectie van inbreukmakende inhoud mogelijk maakte – zoals haatzaaiende uitlatingen en oproepen tot geweld – maar niet hetzelfde deed voor Hebreeuwse- taal Inhoud. Dergelijke classificaties maken automatische verwijdering van aanstootgevend taalgebruik mogelijk. Het gebrek aan classificaties in het Hebreeuws betekende dat Arabische inhoud waarschijnlijk vaker algoritmisch zou worden verwijderd, aldus de analyse. Als reactie op het rapport lanceerde Meta een Hebreeuwse machine learning-classificator die ‘vijandige spraak’ detecteert. Een recenter onderzoek van Human Rights Watch, gepubliceerd in december 2023, noemde “systemische censuur van Palestijnse inhoud op Instagram en Facebook.”
Doelwaakhonden zeggen dat nieuwe documenten die de Guardian heeft ingezien, aantonen dat er, zelfs met de nieuwe classificaties van de Hebreeuwse taal, minder inspanningen zijn om ervoor te zorgen dat die nieuwere maatregelen effectief zijn, waardoor dergelijke verschillen in handhaving kunnen blijven bestaan.
“Deze berichtgeving laat zien dat Meta haar verantwoordelijkheden op het gebied van contentmoderatie niet serieus neemt”, zegt Nashif van 7amleh.
Algoritmische classificatie van haatzaaiende uitlatingen
Naast vijandige spraakclassificatoren en andere indicatoren gebruikt Meta verzamelingen van afbeeldingen, zinnen en video’s waarmee zijn machine learning-tools automatisch berichten kunnen markeren en verwijderen die de regels overtreden. Algoritmische moderators koppelen inhoud die op sociale netwerken is geplaatst met materiaal in inhoudsbanken waarvan eerder werd geoordeeld dat het de metaregels schendt.
De voormalige medewerker zei dat collega’s opmerkten dat verschillende afbeeldingen die bij een bank werden gebruikt na het evenement van 7 oktober per ongeluk waren toegevoegd, maar dat er geen “proces” was om de afbeeldingen van die bank te verwijderen, wat opnieuw leidde tot mogelijk overhandhaving van inhoud met betrekking tot beide partijen. van het Israëlisch-Palestijnse conflict.
Meta betwistte deze karakterisering en stelde dat “het relatief eenvoudig is om een item van de bank te verwijderen als het per ongeluk is toegevoegd.” In de documenten staat echter dat er destijds “geen proces was voor het verwijderen van niet-inbreukmakende clusters nadat beleidsoproepen zijn gedaan die eerder opgeslagen inhoud goedaardig maken”, wat leidde tot “overtoepassing” van inhoud.
De voormalige werknemer zei dat Meta in het verleden reageerde op klachten van contentmoderatiemedewerkers. Veel werknemers uitten echter hun ‘angst voor represailles’ of werden als antisemitisch gezien als iemand klaagde over het buitensporige gebruik van pro-Palestijnse inhoud in het Arabisch, ondanks de geschiedenis van het bedrijf, zeiden ze.
“Als ik dit rechtstreeks zeg, heb ik het gevoel dat mijn baan op het spel staat. Het is heel duidelijk waar het bedrijf op dit vlak staat”, zei de werknemer.
In een open brief uitten meer dan 200 Meta-werknemers soortgelijke zorgen, waarbij ze schreven dat Meta werknemers had “gecensureerd, afgewezen en/of gestraft” die zich in interne fora uitten tegen het beleid van het bedrijf ten aanzien van Palestina. De arbeiders zeiden dat “alle vermeldingen over Palestina zijn verwijderd” uit deze forums.
Clayton, de woordvoerder van Meta, zei dat het bedrijf “veel gevestigde kanalen” aanbood waar werknemers hun zorgen konden uiten en merkte op dat Meta heeft gewerkt om ervoor te zorgen dat de inhoud op zijn platforms veilig is voor gebruikers – inclusief een investering van 20 miljard dollar in “veiligheid en beveiliging”. In 2016 werken 40.000 mensen in de ruimte. Meta’s jaaromzet voor 2023 bedroeg $ 134,9 miljard. In zijn laatste winstrapport rapporteerde het een totale omzet van $39,07 miljard voor het tweede kwartaal van 2024.
Naast de recente brief van Meta-medewerkers ontving het bedrijf in juni een aparte petitie van de American Campaign for Palestijnse Rechten, een pro-Palestijnse belangenorganisatie, en 49 andere maatschappelijke organisaties. De groepen hebben opgeroepen tot het beëindigen van wat zij zeggen als censuur op pro-Palestijnse inhoud, een gebrek aan transparantie rond het moderatiebeleid en de toegeeflijkheid ten aanzien van anti-Palestijnse haatzaaiende uitlatingen op de sociale media van Meta.
Eind 2023 stuurde senator Elizabeth Warren uit Massachusetts een brief naar Meta met het verzoek om meer informatie over het conflictbeleid van het bedrijf en hoe dit wordt gehandhaafd – met de specifieke vraag of en wanneer het bedrijf in de loop van de tijd automatisch inhoud met betrekking tot bepaalde onderwerpen heeft gemarkeerd. Een brief die in juni door bijna vijftig maatschappelijke organisaties naar Meta werd gestuurd, richtte zich op het socialemediabedrijf over soortgelijke kwesties.
In reactie op een recente werknemersbrief zei Clayton tegen Matt dat hij ‘die moest aannemen[s] beschuldigingen dat er beleid is voor het afdwingen van inhoud dat pro-Palestijnse stemmen disproportioneel beïnvloedt”.
“Ons doel was – en blijft – om iedereen een stem te geven en onze platforms veilige ruimtes te helpen houden voor de mensen die ze gebruiken”, zei hij.