Wie dacht dat Facebook louter algoritmes gebruikt om het sociale netwerk vrij te houden van haatberichten, racisme, geweld en pornografie, heeft het mis. De Content Moderators van Facebook staren tot algemeen nut dagelijks urenlang naar de duistere onderwereld van de samenleving.
In februari 2018 lanceerde Facebook nog een nieuw News Feed algoritme, dat veel content creators en influencers met de handen naar het haar deed grijpen. Er werd mee gespot toen een afbeelding van Nirvana's album Nevermind als "aanstootgevende content" gemarkeerd en verwijderd werd. Dat verwart nu toch echt niemand met kinderporno?
Hoewel computerprogramma's vaak de menselijke fout elimineren, blijkt er toch nood te zijn aan een bepaalde mate van interpretatie die niet gevat kan worden in droge codering. Daarom bestaat er bij Facebook de backoffice functie van Content Moderator. Deze moderators worden belast met de eerbare taak alles dat niet thuishoort op Facebook of dat niet overeen komt met de gebruikersvoorwaarden, te verwijderen.
Hoewel velen zitten te springen om een job bij de sociale netwerksite, blijkt die van Content Moderator veel minder glamoureus dan die van de standaard medewerker. Om te beginnen verdient de Content Moderator ongeveer 25.306 euro per jaar in westerse landen, terwijl de gemiddelde Facebook-medewerker er jaarlijks 210.863 euro op nahoudt. Waar de gewone medewerker kan genieten van talloze privileges, worden de Content Moderators nauwgezet in het oog gehouden. Deze laatsten hebben recht op twee pauzes van 15 minuten, een lunchpauze van 30 minuten en een totaal aan 9 minuten wellness time. Twee islamitische medewerkers werden echter verzocht om te stoppen met bidden tijdens hun toegestane ontspanningstijd. Ook is het mogelijk om voor het kleinste foutje op staande voet ontslagen te worden.
Deze beperkte ontspanningstijd blijkt echter noodzakelijk voor de job. Verschillende (voormalige) Content Moderators deden het afgelopen jaar anoniem hun verhaal, aangezien zij verplicht worden een geheimhoudingsverklaring te tekenen, zogenaamd om hen te beschermen tegen de makers van de filmpjes en foto's die ze verwijderen. De waarheid is dat zij vaak werken aan een minimumloon, een soort posttraumatische stressstoornis ontwikkelen waar ze weinig psychologische bijstand voor krijgen, daardoor vaak naar drank en drugs grijpen en soms zelfs de verdraaide werkelijkheid die ze voorgeschoteld krijgen, zelf als wereldbeeld aannemen.
In een van de anonieme getuigenissen verklaart een vrouw dat ze paniekaanvallen begon te krijgen na het zien van een filmpje waarin een man herhaaldelijk met een mes tot de dood gestoken werd, terwijl hij schreeuwend om zijn leven smeekte. Een andere medewerker gelooft ondertussen zelf dat de aarde plat is, terwijl een voormalige werknemer zich vragen begon te stellen bij bepaalde aspecten van de Holocaust. Nog een voormalige medewerker verklaarde dat hij ondertussen elke ontsnappingsroute uit zijn huis uitgetekend heeft, met een pistool onder zijn kussen slaapt en ondertussen niet meer gelooft dat 9/11 een terroristische aanval was.
Een getuige uit Nederland, die in Berlijn via het bedrijf Arvato tewerkgesteld werd, vertelt hoe de makers van dergelijke filmpjes steeds inventiever worden om de algoritmes en de moderators te omzeilen. "Sommige filmpjes beginnen met een fragment uit de Fabeltjeskrant. En dan verschijnt opeens de man met de bijl. Mensen begonnen te huilen of schreeuwen of verdwenen opeens een uur van de werkplek. Ik ben zelf één keer bij de bedrijfspsycholoog geweest. Die raadde me yogaoefeningen aan. Het ergste is de kinderporno. Daar is niemand op voorbereid. Filmpjes van nog geen 30 seconden waarin een elfjarig meisje anaal verkracht wordt, met als onderschrift: DM if interested, price not negotiable. Toch beef ik. We hoorden steeds: jullie leveren goed werk, belangrijk werk. Jullie houden Facebook veilig."
Om zich toch op de een of andere manier te wapenen tegen het dagelijkse geweld waaraan de moderators blootgesteld worden, grijpen ze vaak naar alcohol en drugs om hun gevoelens te verdoven. Marihuana is het meest gangbaar en wordt routineus gerookt op de werkplaats. De toiletten en de trappengangen worden vaak gebruikt als plek waar de werknemers gemeenschap hebben met elkaar, als een vorm van traumatic bonding. De kantoren worden omschreven als plekken die continu balanceren op de rand van de chaos. De geheimhoudingsverklaring, die het werknemers zelfs verbiedt met familie en vrienden over hun job en de emotionele tol die deze eist te praten, vergroot het gevoel van isolatie en angst.
Bob Duncan, die de werking van Cognizant presideert (een bedrijf waaraan Facebook dit werk in Noord-Amerika uitbesteedt), reageerde dat ze bij het aannemen van hun werknemers telkens voorbeelden laten zien van wat zij van de job kunnen verwachten, zodat sollicitanten daar zelf hun conclusies uit kunnen trekken. Facebook en Arvato reageerden samengevat als volgt:
"We zijn ons ervan bewust dat het werk als Arvato-medewerker vaak lastig kan zijn. We spreken tegen dat er niet goed gezorgd zou worden voor Arvato-medewerkers en de sfeer in het Facebook niet goed zou zijn. Medewerkers krijgen, afhankelijk van de wens, vanaf het begin psychologische begeleiding aangeboden, welke op elk moment kan worden ingezet. Aan ons is bevestigd dat Arvato alles in huis heeft om onze hoge normen van supervisie en training te implementeren. We evalueren voortdurend het hulpprogramma van onze ondersteunende diensten en hebben de psychologische hulp ter plaatse verhoogd tot meer dan 40 uur per week en het programma van sociale en recreatieve activiteiten uitgebreid."
