18 juli 2019
De Achterkant van Facebook. 8 maanden in de hel.
De schrijver van deze uitgave is 54 en heeft een vaste baan wanneer hij plots half blind en half doof wordt. Hij moet weg uit Nederland waar hij geen werk vindt en trekt naar Berlijn waar men hem bij Facebook wel werk kan verschaffen, als “content moderator”. Na het Amerikaans verkiezingsdebacle is immers gebleken dat Zuckerbergs mooie droom om een platform te creëren waar iedereen zich vrij en blij kon ontmoeten, nogal naïef was en dat Facebook voor vanalles en nog wat kan gebruikt worden (onder andere om verkiezingen te beïnvloeden).
Facebook levert nu blijkbaar toch een inspanning om de inhoud (“content”) van de website te verbeteren (“een warme, veilige omgeving scheppen”) en heeft daarvoor mensen nodig die moeten oordelen over de morele kwaliteit van wat er op de website gegooid wordt, met de bedoeling dat ze die inhoud kunnen verwijderen indien nodig.
Sjarrel de Charon wordt dus “moderator” bij Facebook. Voor ieder taalgebied is er in Berlijn een groep moderators, want ze moeten natuurlijk begrijpen wat ze te zien en te lezen krijgen. Facebook heeft wereldwijd 7500 moderators, waarvan 600 in Berlijn, en daarvan zijn er 22 “trainees”. Die beginnen iedere dag te werken aan de “content moderation queue” die zich al of niet opbouwt op hun taalgebied.
Sjarrel de Charon wordt dus “moderator” bij Facebook. Voor ieder taalgebied is er in Berlijn een groep moderators, want ze moeten natuurlijk begrijpen wat ze te zien en te lezen krijgen. Facebook heeft wereldwijd 7500 moderators, waarvan 600 in Berlijn, en daarvan zijn er 22 “trainees”. Die beginnen iedere dag te werken aan de “content moderation queue” die zich al of niet opbouwt op hun taalgebied.
de Charon is Nederlander en in die hoedanigheid erg gegeerd, want er zijn heel weinig Nederlanders die zich komen aanbieden voor de job. Dat heeft als gevolg dat de “queue” iedere dag even lang blijft of zelfs nog aangroeit, want het kleine Nederlandse groepje kan die berg “content” niet de baas. Dit terwijl sommige groepen gewoon niets te doen hebben de hele dag… Het loon van de medewerkers hangt echter in zekere mate af van de lengte van de “queue”, wat natuurlijk al meteen spanningen veroorzaakt.
Waarschijnlijk zou dat op zichzelf nog niet zo erg zijn. Het is vooral de jobinhoud die - niettegenstaande een korte trainingsperiode – overweldigend is: het blijkt namelijk een verbijsterende ervaring om iedere dag, iedere minuut van elke dag non-stop dingen aan zich te zien voorbijkomen (in de vorm van tekst, video en foto’s) die getuigen van verborgen haat, afgunst, blinde, ongefundeerde en irrationele woede; van pesterijen, spam, racisme, kinderporno, “revenge porn”, sadisme, tot terreur, zelfbeschadiging, executies, geheime genootschappen, zelfmoord, ... - noem maar op.
Van 8 tot 10 krijg je “high priority tickets” te zien - de meest schokkende inhoud - en dan, vanaf 10 uur de meer “normale” aanstootgevende dingen.
Van 8 tot 10 krijg je “high priority tickets” te zien - de meest schokkende inhoud - en dan, vanaf 10 uur de meer “normale” aanstootgevende dingen.
Eén psycholoog, één maatschappelijk werker en één “feelgoodmanager” worden verondersteld deze 600 mensen bij te staan. Zuckerberg doet dus toch wel zijn best. Ware het niet dat Facebook regelmatig beleidswijzigingen doorvoert. Maar ook dat zou een gemiddelde “content moderator” nog wel aankunnen. Maar als de callcenters onderbezet zijn, de werkdruk hoog en je toevallig deel uitmaakt van de Nederlands-Vlaamse groep die iedere dag een achterstand hebben van 38.000 “tickets” en je dan geconfronteerd wordt met een stroom van beelden, teksten, slides, films, posts, shares, die dingen tonen zoals geraffineerde sadistische marteling, een hoofd dat van een lichaam gehakt wordt, de close-up van het gezichtje van een kind terwijl het anaal verkracht wordt, iemand die zichzelf beschadigt voor iedere “like” die hij/zij krijgt, een tiener die de “choking-game” speelt, of/en een “pass-out challenge” houdt… Dan moet je wel een totaal ongevoelig of immoreel iemand zijn en hermetisch stressbestendig. Komt daar nog bij dat je verondersteld wordt om ieder item onder te brengen in een bepaalde categorie met vele subcategorieën die op hun beurt ook nog eens in verdere submenu’s onderverdeeld worden.
Om een idee te geven van datgene waarmee je (als richtlijnen) in je achterhoofd moet zitten om te kunnen oordelen als moderator, som ik even de Engelstalige “protected categories” op waartegen gewoon niét mag gezondigd worden: race, ethnicity, national origin, religious affiliations, sexual orientation, sex, gender and gender-identity, serious disability or disease, hateful imagery, holocaust denial. En wat verder niet door de beugel kan: nudity, male en female genitalia, anus, penetration, oral stimulation and self stimulation, masturbation, arousal, semen,…
Je kan dus best begrijpen dat Sjarrel de Charon er na 9 maanden de brui aan geeft en – gelukkig – ook een boek schrijft over zijn ervaringen. Een boek dat een aanklacht vormt tegen Facebook (Instagram, YouTube, Twitter) omdat het bedrijf geen rekening houdt met het psychisch welzijn en het leven van hun “content moderators”. Als deze medewerkers bezwijken, beschouwen ze dit gewoon als “collateral damage”!
De overweldigend urgente vraag die je wellicht bij het lezen van dit boek moet stellen, is nog van een heel andere orde: kan (mag) Facebook zomaar bepalen wat “kan” en wat niet “kan”? Facebook telt 200 miljard gebruikers die actief zijn in meer dan 100 talen. Wat zij nu vastleggen in voorlopig nog fluctuerende regels, is een nieuwe burgerlijke wetgeving, een nieuwe morele gedragscode die boven de waaier van morele inschatting, gebruiken, godsdienstige geboden en verboden en burgerlijke nationale wetgevingen, die totaal verschillend van elkaar kunnen zijn, staat.
Een eerder onbeduidend voorbeeldje dat dit toch wel “plaatst”: het woordje “kanker” is volgens Facebook aanstootgevend. Maar als je aan het Nederlands taalgebruik denkt, is het woordje “kanker” een eerder alledaags, veelgebruikt woord.
Hoe bepaal je dan wie of wat een terrorist is? De Westerse seksuele gedragscode is totaal verschillend van bijvoorbeeld de islamitische. Waar haal je je morele gedragscode? Enzovoort.
Toch worden op dit ogenblik 1000en “posts” (en dus mensen) beoordeeld door een soort Zuckerberg code, zonder dat gelijk welke nationale of (liefst) internationale burgerlijke autoriteit en wetgeving daar enige zeggenschap in gekregen heeft. En, wat nog erger is: ook niet geëist heeft. Wordt onze moraal in de toekomst dus geschreven door de sociale media voor wie slechts één ding telt: het inkomen dat ze halen uit de reclame? De zakenwereld bepaalt in dat geval dus de moraal.
Meer van Victor De Raeymaeker
Hoe bepaal je dan wie of wat een terrorist is? De Westerse seksuele gedragscode is totaal verschillend van bijvoorbeeld de islamitische. Waar haal je je morele gedragscode? Enzovoort.
Toch worden op dit ogenblik 1000en “posts” (en dus mensen) beoordeeld door een soort Zuckerberg code, zonder dat gelijk welke nationale of (liefst) internationale burgerlijke autoriteit en wetgeving daar enige zeggenschap in gekregen heeft. En, wat nog erger is: ook niet geëist heeft. Wordt onze moraal in de toekomst dus geschreven door de sociale media voor wie slechts één ding telt: het inkomen dat ze halen uit de reclame? De zakenwereld bepaalt in dat geval dus de moraal.
