Im Schatten der Netzwelt (2018)

Ik was er al bang voor: de documentaire vertelt niets wat niet iedereen al weet.

Zo weet volgens mij iedereen al dat de social media geen kattenpis meer zijn maar dat bedrijven als Facebook, Google en Twitter een miljardenpubliek hebben. En dat die gebruikersvoorwaarden hebben en dus honderden of duizenden moderators hebben (al dan niet geoutsourced naar bedrijven in de Filipijnen) die de hele dag content moeten beoordelen en eventueel verwijderen. Dat gebeurt natuurlijk ook in hoge mate door kunstmatige intelligentie maar dat werd min of meer verzwegen in de documentaire zoals de documentaire heel veel verzwijgt en zo zelf een beetje nepnieuws is. Het gaat de documentairemakers er geloof ik vooral om te laten zien dat er in ieder geval ook echte Filipino’s de hele dag naar geweld en porno moeten kijken en dat dat traumatiserend is voor hen: om onze wereld online veilig te houden moeten de moderatoren zelf constant in een zeer onveilige omgeving werken. Een leuke vergelijking van zo’n moderator is: ik heb op school mijn best gedaan om geen afvalprikker te worden maar nu ben ik eigenlijk een soort digitale afvalprikker.

En volgens mij weet ook iedereen dat sociale media veel nepnieuws weer wel laten staan omdat zij immers geen kranten maar platforms zijn waarbij de vrijheid van meningsuiting ook op leugens ziet en dat overheden steeds meer gaan ingrijpen om de sociale media te dwingen om nepnieuws van bv. Rusland om onze politiek te beïnvloeden te weren. En dat bv. Turkije de sociale media dwingt om bv. geen kritiek op Erdogan te dulden omdat de sociale media anders helemaal worden geweerd in zo’n land en dan dus publiek en inkomsten kwijt raken. Sowieso zijn de gebruikersvoorwaarden in feite gebaseerd op de Amerikaanse wetgeving of cultuur en in sommige opzichten heel streng (bv. blote borsten mogen niet worden getoond; een vraag die bij me opkwam maar niet wordt beantwoord door de film is dat die strenge zedelijkheid wordt ingegeven door het protestantisme van de VS terwijl de uitvoerende moderators katholieke Filipino’s zijn die ook wel de indruk wekten vanuit hun eigen religieuze overtuigingen content te verwijderen: hoe verhoudt dat tot elkaar?). Iedereen kent de voorbeelden van kunstwerken en historische foto’s zoals van het Vietnam-meisje die op sociale media werden verwijderd vanwege getoonde naaktheid. Ik denk dat foto’s van bv. de nazi-concentratiekampen ook zullen verdwijnen uit ons collectief geheugen omdat die te veel geweld en naakt tonen voor de sociale media. Journalisten die bv. de oorlog in Syrië verslaan hebben er ook last van dat hun beelden worden verwijderd omdat ze te gewelddadig zouden zijn. Daar bovenop komt dan nog de specifieke censuur van de verschillende landen (zoals van Turkije). Al met al wordt zo de vrijheid van meningsuiting ernstig ingeperkt en komt onze democratie daarmee onder druk te staan.

En iedereen weet volgens mij dat de sociale media niet verbinden en zo wereldvrede brengen maar dat niets zo veel doet klikken en delen als berichten die verontwaardiging oproepen, zodat juist haat zich razendsnel verspreid op internet. De sociale media storten ons zo nog in een totale wereldoorlog. En de sociale media laten het liefst alleen zien wat gebruikers graag willen zien zodat iedereen in een informatiebubbel komt te leven en iedereen z’n eigen politieke werkelijkheid heeft: de sociale media versterken de politieke polarisatie tussen bv. links en rechts.

Uiteindelijk is het natuurlijk het kapitalisme dat dit alles doet: het gaat de sociale media puur om winst maken en alle censuur, polarisatie, haat en oorlog volgen zo slechts de wetten van de markt. In dat opzicht moest ik aan Slavoj Zizeks opmerking denken dat het wereldkapitalisme het multiculturalisme heeft voortgebracht: het wereldkapitalisme maakt niet alleen alle culturen gelijk tot één grote ‘MacWorld’ maar zal ook de verschillende culturen respecteren om nog meer producten te kunnen verkopen. Daarom dicteert het kapitalisme bv. dat al het vlees halal moet worden geslacht (want anders kopen moslims het niet en verlies je consumenten). En op dezelfde manier zwichten alle sociale media voor bv. de Turkse censuur en respecteren zij zo de wensen van alle culturen of dictators. En om de kans te minimaliseren om überhaupt iemand voor het hoofd te stoten en dus klanten te verliezen, dicteert het kapitalisme om heel veilige content te leveren zoals de slappe hap die alle commerciële TV-zenders elke dag uitzenden. Nu heeft dat multiculturalisme op internet wel een beperking: internet is – afgezien van die geoblocking waardoor Turkije zijn censuur krijgt – per definitie grenzeloos zodat dat de sociale media nog sterker stimuleert alleen content toe te laten die door alle culturen wordt gerespecteerd. Nog meer slappe hap dus.

De documentaire heeft een belangrijke boodschap in de zin dat het beangstigend is dat in steeds sterkere mate een paar bedrijven in de VS bepalen wat 7 miljard mensen zien en weten (dat China z’n eigen sociale media heeft negeren we even). Dat voorspelt weinig goeds voor de toekomst van de mensheid. Maar de documentaire vertelt in feite niets nieuws, laat veel cruciale informatie achterwege en bevat slechts oppervlakkige observaties: een beetje goede Tegenlicht-uitzending over hetzelfde onderwerp biedt veel meer diepgang doordat die bv. ook een filosoof aan het woord laat die kan doordenken over de materie.

Ok docu.

The Cleaners is een docu die ik eigenlijk in de bios al wou zien, maar niet kon vinden. Later toen deze op NPO 2 kwam toch maar meegepakt. Ik dacht dat ik meer confronterende beelden zou zien en nieuwe dingen te weten zou komen maar eigenlijk weet je het meeste dat ze hier vertellen al.

Wel laat het zien dat het werk van een ' content-moderator ' vrij donker en grimmig is. 25.000 foto's beoordelen minimaal per dag lijkt me vreselijk, en dan wat ze te zien krijgen is nog vreselijker. Sommige foto's worden in het controverse ook niet geschuwd, en worden slechts enkele te expliciete beelden vervaagd.

Desondanks een donkere en grimmige docu die zeker serieus genomen moet worden.

Deze ook eens bekeken en vond het wel eens interessant. Ik dacht eigenlijk dat alles werd gescand door de computer en niet via mensen. Dit is toch wel een helse job.

De docu duurt nog niet te lang en kon me zo boeien van begin tot einde.

Interessante, zij het nogal somber stemmende documentaire over de maatregelen die bedrijven als Google nemen om illegale en potentiëel gevaarlijke content te weren van hun sites. Zo zijn er dagelijks tienduizenden Filipijnse content moderators bezig om te bepalen wat er überhaupt op het web te zien is. Een ontwikkeling die op den duur onherroepelijk zal leiden tot een minder democratisch internet. De documentaire mist soms wat focus, maar bepaalde interviews met betrokkenen gaan niet in de koude kleren zitten en de thematiek is eindeloos fascinerend.

Ignore. Ignore. Delete. Delete. Ignore. Ignore. Ignore. Ignore. Ignore. Een anonieme persoon zit voor een beeldscherm in een donker verlaten kantorencomplex. Flikkerende beelden glijden over het scherm. De muis klikt kil. Delete of ignore. Een beslissing die in enkele seconden wordt genomen. De anonieme persoon is een contentmoderator. Hij zorgt ervoor dat de content van sociale media voldoet aan de richtlijnen zoals die hem zijn bijgebracht. Hij zorgt voor orde en netheid op de onlineplatforms. Of zijn opdrachtgever door Google, Facebook of Twitter wordt betaald mag hij niet zeggen. Ook zijn identiteit mag hij niet prijsgeven.

De documentaire “The Cleaners” doet onderzoek naar de mensen of instanties die bepalen wat de bezoeker van sociale media wel en niet te zien krijgt. Hoeveel contentmoderatoren er zijn is onbekend. Wel is bekend dat de meeste moderatoren in de Filipijnen werkzaam zijn. Tijdens zijn dienst krijgt de contentmoderator 25.000 posts te zien waarover hij moet beslissen. Delete of Ignore. De moderator heeft dus slechts zeer kort de tijd om die beslissing te nemen. Slechts enkele tellen. Dat klinkt absurd. Ook absurd is het dat de beslissing wordt genomen door iemand die weliswaar handelt volgens bepaalde richtlijnen maar die daarnaast de dingen ontegenzeggelijk in een andere culturele context ziet.

De vijf (deels nog werkzame) moderatoren die door regisseurs Hans Block en Moritz Riesewieck aan het woord worden gelaten zijn/waren bijzonder gemotiveerd om hun werk te doen. Ze zien en zagen zichzelf als schaduwstrijders en bewakers in de strijd tegen kinderprostitutie, terrorisme, laster en vuiligheid. Eén iemand heeft het over een politieke missie en een ander laat haar religieuze geweten haar drijfveer zijn. Expliciete negatieve kanten van het werk komen ook aan bod. De psychische gevolgen van een voortdurende blootstelling aan extreme vormen van menselijk handelen zijn er onmiskenbaar. Sommigen stoppen met hun werk. Anderen verdringen de heftige indrukken. En weer anderen zoeken hun toevlucht in activiteiten van hedonistische aard.

De documentaire verschaft de kijker een goed beeld van de werkwijze van deze contentmoderatoren. Van de manier waarop zij beelden bekijken, analyseren en als geschikt of ongeschikt classificeren. De enorme kloof tussen de vooruitstrevendheid van de ontwikkelaars uit Sillicon Valley en de reële gevolgen van deze enthousiaste visie voor de wereld van de sociale media wordt nog eens duidelijk gemaakt door de woorden van Marc Zuckerberg die het heeft over een onlinegemeenschap die de wereld verbindt. Dat van die verbinding klopt inderdaad, maar hij zal er hopelijk geen verbinding op basis van geweld, extremisme of seksuele perversiteiten mee hebben bedoeld.

De documentaire brengt dit spanningsveld weliswaar aan het licht maar laat het daarbij. Digitalisering is een zegen en een vloek tegelijk. De film schetst een beeld van de moderne samenleving waarin mensen dicht bij elkaar zijn gekomen maar niet per se in harmonieuze en positieve zin. Maar ach, dat wisten we eigenlijk al. Interessanter was het om de contentmoderatoren aan het werk te zien en te beseffen dat zij in een nanoseconde bepalen wat de sociale media gebruiker aan verheffende content te zien krijgt.