De Digitale Media van 23 april 2018

Onderwerpen:

  • Nederland blinkt uit in haatberichten op Facebook
  • Oud-medewerkers vertellen over de hel achter de façade van Facebook

Nederland blinkt uit in haatberichten op Facebook

Bron: Volkskrant – Nederlandse gebruikers van Facebook hebben een bedenkelijke reputatie. Hun stroom berichten met haat, racisme en het toewensen van ziekten als kanker is opvallend groot. In Zuid-Europese landen ligt dat aantal bijvoorbeeld veel lager. Dit blijkt uit het verhaal van een Nederlandse moderator die vorig jaar bij Facebook werkte en wiens relaas ondersteund wordt door gelekte e-mails, interne documenten en een collega.

Dagelijks krijgt het ‘Nederlandse team’ van moderatoren circa 8.000 meldingen over onder meer discriminerende, racistische en haatdragende berichten. Vooral rond Sinterklaas, verkiezingen en demonstraties van de PVV, zoals die op 20 januari in Rotterdam, neemt het aantal flink toe. Moderatoren krijgen op die momenten aparte instructies om de grote stroom snel te kunnen verwerken. De moderatoren werken vanuit Berlijn, waar zo’n 1100 personen berichten, foto’s en video’s beoordelen. Ze zijn gebonden aan strikte geheimhouding. De Nederlandse moderator doet anoniem zijn verhaal.

Lange tijd was het Nederlandse team, dat varieert van vijf tot acht personen, in 2017 onderbemand, waardoor meldingen van gebruikers in de wachtrij bleven staan en niet beoordeeld werden, vertelt hij. Daar zaten ook berichten tussen over zelfmoord en seksueel misbruik. Griekse moderatoren – die zelf weinig te doen hadden – hielpen de achterstand weg te werken.

De moderator vertelt hoe hij en zijn collega’s drank en medicijnen gebruiken om de heftige inhoud van de berichten te kunnen verdragen. Ze verdienen het minimumloon, 8,90 euro per uur. Facebook heeft de laatste jaren in onder andere Berlijn en in Manilla, op de Filipijnen, duizenden goedkope arbeidskrachten opgeleid tot moderatoren.

In een reactie zegt het bedrijf heel goed voor het personeel in Berlijn te zorgen. ‘We realiseren ons dat hun werk vaak moeilijk is.’ De afgelopen tijd is de psychologische bijstand uitgebreid. ‘We bieden hulp waar dat nodig is.’ Facebook zegt ook een programma te hebben voor sociale en recreatie activiteiten voor het personeel in Berlijn. ‘We ronden binnenkort een psychologische risicoanalyse af om te kijken waar meer steun nodig is.’

Over de haat die Nederlanders via het platform zouden verspreiden stelt Facebook vast dat ‘de verspreiding van haat een wereldwijd issue is’. Ook zegt het dat het personeel in Berlijn meer krijgt betaald dan ‘het gemiddelde’ in de branche.

Het bedrijf kwam eerder schoorvoetend tegemoet aan kritiek dat het te weinig actie onderneemt tegen haat, racisme, maar ook kinderporno, terroristische propaganda en pestgedrag. In mei vorig jaar kondigde topman Mark Zuckerberg, mede in reactie op incidenten met Facebook Live, de verspreiding van desinformatie en de vele haatberichten, drieduizend nieuwe moderatoren aan. In het voorjaar van 2017 waren er wereldwijd 4.500 moderatoren voor de 2 miljard gebruikers van Facebook. Dat aantal moet dit jaar groeien tot een kleine 9.000.

Oud-medewerkers vertellen over de hel achter de façade van Facebook

Bron: Volkskrant – Voor de buitenwereld moet geheim blijven hoe Facebook werkt. Intussen worden onervaren krachten overspoeld met gruwelijke teksten en beelden.

Teamhoort Sebastian stuurt begin februari – een maand voordat Facebook wereldwijd onder vuur komt te liggen omdat de gegevens van 87 miljoen Facebookgebruikers geroofd zijn – een mail naar 1.100 medewerkers van het Horizon-team in Berlijn. Er wordt een bezoek aangekondigd van de BBC en de New York Times. ‘Doel van dit bezoek’, schrijft Sebastian, ‘is hetzelfde als de vorige keer: meer maatschappelijk begrip creëren voor ons werk hier.’

De komst van de media is nauwkeurig voorbereid. Speciale personen zijn geselecteerd om het verhaal van Facebook uit te dragen. Het bedrijf worstelt al langer met een aantal kwalen, zoals de verspreiding van desinformatie, politieke beïnvloeding en misbruik van het platform door terroristische groeperingen. Ook zijn gebruikers slachtoffer van haatcampagnes.

[..] de openheid die Facebook voor deze media uitstraalt, is geregisseerd. De mensen die hier werken, mogen aan niemand vertellen wat hun taken zijn, zo zegt de Nederlander Erik. Dat krijgen ze aan het begin van een twee weken durende training te horen. Vrienden mogen het niet weten, familie evenmin. Het is niet toegestaan om persoonlijke bezittingen mee naar binnen te nemen. Telefoons moeten in een kluis. Pen en papier zijn verboden. Op de toiletten hangen dure Dyson-drogers omdat papieren handdoekjes ook beschreven kunnen worden, vertelt hij. Medewerkers controleren of er tassen onder de bureaus liggen.

Facebook wil niet dat bekend wordt hoe het bedrijf bepaalt wat wel en niet mag, en hoe het berichten filtert, censureert, blokkeert en verwijdert. Twee moderatoren spraken daar in de afgelopen maanden toch over met de Volkskrant, op voorwaarde van anonimiteit.

Berlijn kent een grote groep internationale creatievelingen. De lage huren en het prettige leefklimaat trekt ze naar de Duitse hoofdstad. Ook voor internationale bedrijven is Berlijn aantrekkelijk: de lonen zijn er laag en er wonen veel jongeren met verschillende achtergronden. In en rondom de stad zitten daarom veel callcenters van bedrijven als Zalando en Playstation.

Inleiding

De cursisten krijgen, bij wijze van test, een aantal berichten op hun beeldscherm. Een van de posts die Erik moet beoordelen is een foto van een stervend Afrikaans jongetje waarin een doos van Pizza Hut is gephotoshopt. Afschuwelijk, vindt hij het. Sadistisch. Dit lijkt hem op z’n minst iets om te markeren als gevoelig en wreed. Fout, krijgt hij te horen. Laat het gaan.

Facebook werkt, zo leert Erik, met protected categories (PC) en quasi protected categories (QPC). Een PC is een kwetsbare groep – zoals transgenders, ernstig chronisch zieken, Joden, Ghanese vrouwen, vrouwen in het algemeen. Een bericht mag enkel verwijderd worden als de hele groep aangesproken wordt. Dus ‘alle zwarten zijn lui.’ Staat er bij een foto ‘luie zwarte’, dan is er niets aan de hand. Goedaardig, volgens Facebook.

De moderatoren dienen binnen 12 seconden een beslissing te nemen. Daarbij hebben ze vijf keuzes: 1. Negeren 2. Verwijderen 3. Checken bij een meerdere 4. Escaleren 5. Markeren als gevoelig/wreed.

22.000 tickets achterstand

De Nederlanders – het zijn er op dat moment vier, later zes of zeven – zitten naast de Grieken en Portugezen, rechts daarvan de Italianen en Slowaken. Ze modereren alle Nederlandstalige gebieden: Vlaanderen, Suriname en Zuid-Afrika. Bijna iedereen heeft een koptelefoon op. Moderatoren staan of zitten. De gemiddelde leeftijd is rond de 27. Ze verdienen praktisch het minimumloon: 8,90 euro per uur, zo’n 1500 euro per maand.

Erik leert van een subject matter expert wat hij moet doen: tickets beoordelen. De vier Nederlanders krijgen zo’n 8.000 tickets per dag: gerapporteerde berichten over haat, geweld, kinderporno, zelfbeschadiging. Doel is om er per persoon minimaal 1.800 te beoordelen. Pauze telt niet als werktijd; moderatoren dienen dan uit te loggen. De Nederlanders lopen flink achter, hoort Erik. Er staan nog 22.000 tickets in de wachtrij, waaronder noodkreten van mensen die zelfmoord dreigen te plegen.

De haat, dat is wat hem meteen raakt. ‘Ik schrok daarvan.’ De intense haat, tegen asielzoekers, Marokkaanse Nederlanders, zwarte mensen. Erik: ‘En alles in Nederland is kanker. Kankerjongen, kankerneger, kankerhoer.’ ‘Kanker’ is zo’n veelgebruikt scheldwoord dat Facebook het niet als schelden aanmerkt.

Huppende man

Nadat Erik in zijn derde week een paar duizend tickets heeft beoordeeld, krijgt hij vanzelf video’s erbij, zonder waarschuwing. Meteen ziet hij een filmpje dat hem lang bijblijft. Er hupt een man in een oranje overall over een asfaltweg. Zijn benen zijn geboeid, waardoor hij met klein sprongetjes beweegt. Er komt een tank aanrijden die over de man heen rijdt. Dan zoomt de camera in op het platte, bloederige restant van de man.

Erik staat op en loopt naar buiten. Nu begrijpt hij waarom er regelmatig mensen schreeuwend en huilend het pand verlaten. Buiten rookt hij trillend een sigaret. Hij staat een uur buiten. Daarna gaat hij door. Niemand vraagt hem iets.

In de weken daarna krijgt hij alles wel een keer te zien. Martelingen, executies, stenigingen. Maar ook challenges, uitdagingen. Pubers die net zolang hun armen ‘gummen’ totdat de spieren zichtbaar zijn. Anorexia-patiënten die oproepen doen: elke like is een uur niet eten. ‘En dan komen de likes binnen. Van 2 naar 5, naar 14.’ Filmpjes van Sponge Bob die na een paar seconden overgaan in een onthoofding. Het zijn beelden die in z’n hoofd rond blijven malen. ‘We zijn er helemaal niet voor opgeleid om dit soort ellende te zien. Dag in, dag uit.’

Alcohol en pillen

De vestiging Berlijn heeft één psycholoog, een maatschappelijk werker en een zogeheten feelgoodmanager. Die laatste stuurt onder meer mailtjes over yogaklassen en wijst de werknemers er op dat er elke dag vers fruit is. Dus meldt hij zich een keer bij de bedrijfspsycholoog. Ook die begint over de heilzame werking van yoga. En ze legt hem uit dat hij heel belangrijk werk doet. Moeilijk, maar belangrijk. Ook raadt ze hem aan om na het werken niet direct de U-bahn te pakken, maar een halte over te slaan en wat te lopen. Erik heeft er weinig aan, zegt hij.

De vestiging Berlijn heeft één psycholoog, een maatschappelijk werker en een zogeheten feelgoodmanager. Die laatste stuurt onder meer mailtjes over yogaklassen en wijst de werknemers er op dat er elke dag vers fruit is. Dus meldt hij zich een keer bij de bedrijfspsycholoog. Ook die begint over de heilzame werking van yoga. En ze legt hem uit dat hij heel belangrijk werk doet. Moeilijk, maar belangrijk. Ook raadt ze hem aan om na het werken niet direct de U-bahn te pakken, maar een halte over te slaan en wat te lopen. Erik heeft er weinig aan, zegt hij.

Ophef als drijver

Mensen moeten zo vaak mogelijk terugkomen. Daarvoor bezoeken Facebookmanagers congressen over gedragsbeïnvloeding. Als gebruikers de app openen, moeten ze verrast zijn. Daarvoor zorgt het algoritme. Bijdragen die om wat voor reden dan ook opvallen, krijgen meer aandacht. Want die zorgen voor meer emoties en reacties. Een genuanceerde bijdrage scoort minder hoog dan een uitgesproken opinieartikel. Sociale media gedijen bij ophef, zolang de ophef maar niet over henzelf gaat.

Sylvana Simons openbaart in augustus vorig jaar zelf een privébericht dat ze via Facebook ontvangt van ene Egbert. ‘STERF!! Achterlijke kankerzwarte! Please donder op en laat ons land met rust! Misselijkmakende zandvreter! Wij blank volk hadden jouw zwarte volk lekker in slavernij moeten houden! Toen waren jullie nog braaf en luisterden jullie!’ – Het mag van Facebook. Facebook heeft er geen belang bij dat er veel inhoud geweerd wordt – tenzij de publieke discussie verschuift van de inhoud van die berichten naar Facebook. Zo gaat het ook bij Simons. In oktober 2017, vlak voordat een Europese ngo bij Facebook langskomt om te toetsen hoe het bedrijf omgaat met hate speech. Net voor het bezoek verandert Simons’ status. Ze wordt een ‘beschermd persoon’. De redenering: ze is niet alleen politica, maar ook activiste. ‘Ja’, reageert Simons desgevraagd, ‘het is me opgevallen dat het de laatste tijd rustiger is. Simons: ‘Ze nemen mijn meldingen over haat en racisme nu wel serieus.’

Verkrachting

Na vier maanden ziet Erik een filmpje dat hij niet kan vergeten. De video duurt 30 seconden. Een meisje van een jaar of 11 wordt *** verkracht. ‘Afschuwelijk. Ik ben bang dat ik het nooit meer kan vergeten. Dat ik altijd het angstige gezicht van dat meisje zal blijven zien.’ Hij verdooft zich meer en meer met wijn en medicijnen. Z’n collega’s doen hetzelfde. Een Deens meisje stopt na een aantal maanden en wordt met een posttraumatische stressstoornis opgenomen. Haar behandelaars verbieden haar Facebook nog langer te gebruiken. Het Nederlandse team, dat inmiddels is gegroeid tot acht personen, wisselt in een half jaar volledig van samenstelling. Niemand houdt het langer dan een paar maanden vol. Erik ziet telkens nieuwe gezichten.

Hij snapt dat Facebook iets moet doen. Dat iemand de rotzooi op moet ruimen. ‘Maar wat wringt is het gebrek aan professionele hulp. Politiemedewerkers die kinderporno bekijken zijn getraind en mogen dat maximaal een paar uur per dag doen. Wij zien de hele dag ellende. Onvoorbereid.’ Ook Erik trekt het niet. Hij merkt dat hij angstiger is, wantrouwig naar andere mensen toe. Hij is gevoeliger voor geweld en haat, ziet het de hele dag voor zich. Hij krijgt therapie, maar elke keer als hij weer het Facebookgebouw binnenstapt, komt de angst terug. Uiteindelijk zegt hij na acht maanden zijn baan op. Hij heeft nog wekelijks therapie.

Sorry hoor, ik zal het nu echt niet meer doen

Kort nadat afdelingshoofd Sebastian zijn waarschuwende mail aan het personeel heeft rondgestuurd, krijgen verschillende journalisten, waaronder van de New York Times, urenlang presentaties over het moderatiebeleid van Facebook te zien. Leidinggevenden vertellen hoe de techreus zich al vlot heeft aangepast aan de nieuwe Duitse wetgeving. Tot publicaties leidt het niet: enkele weken na het bezoek wordt bekend dat het Britse databedrijf Cambridge Analytica de profielen van 87 miljoen Facebookgebruikers heeft gestolen. Facebook wist ervan, maar deed niets. Na aanvankelijke, dagenlange stilte biedt Zuckerberg zijn excuses aan. Hij belooft, ook nu weer, beterschap.

Noot van de redactie

We weten door de aard en het business model van de social media al niet meer wat echt is en wat fake – het is maar net welk belang een bepaalde groep heeft, om iets wat fake is als echt te bestempelen. Facebook vaart wel bij deze redenatie, want het wil zoveel mogelijk controverse aanwakkeren. Als iemand ergens tegen is, dan zorgt het algoritme van de Facebook Newsfeed ervoor dat juist mensen die vóór zijn dat bericht te zien krijgen, zodat er zoveel mogelijk ‘spanning’ ontstaat. Spanning zorgt voor aandacht en hoe langer je op Facebook zit, des te meer advertentieinkomsten ontvangt het bedrijf.

Niet alleen leidt dit business model naar een totaal verrotte wereld, waar aandacht te koop is en waarheden eenvoudig te manipuleren, maar het draagt er ook toe bij dat mensen asociaal gedrag als het nieuwe normaal gaan zien. Filmpjes van gemartelde honden, zelfmoorden, verkrachtingen, alles voor de centen, alles voor de aandeelhouders van Facebook.

In 2013 zagen we wat de social media kan aanrichten, als het zich richt op een feestje, zoals dat in Haren. Project X liep volslagen uit de hand, het dorp werd overlopen door Facebook gebruikers, die wel zin in een geintje hadden. Maar zoals zo vaak trekt dit meer mensen aan: de vernielingen in Haren waren enorm. Het was ook hierom dat ik (Edwin Korver) opriep om moderatoren aan te stellen, mensen uit de community van gebruikers van Facebook, die in hun vrije tijd konden beoordelen of een post of video door de beugel kon of niet. Maar Facebook zag daar niets in: het regelde het zelf, overigens pas na enorme publieke en politieke druk. Maar wat ze nu doen, mensen die in de bloei van hun leven staan blootstellen aan de ergste vuiligheid en vunzigheid van het medium, is onmenselijk en zou verboden moeten worden.

Mijn conclusie, 5 jaar na Haren, is dat er maar één remedie overblijft voor dit gedrocht: SLUIT FACEBOOK! Opheffen, vergeten en nooit meer naar omkijken.

Er zijn er die oproepen naar een nieuwe Hyves, maar is dat de oplossing? Of moeten we dergelijke sociale netwerken gewoon helemaal geen kans meer bieden om – over de rug van mens en maatschappij – misbruik te maken van persoonlijke informatie? Of moet er gewoon een publiekelijk netwerk komen. Uiteindelijk is het aan de gebruiker om actie te ondernemen.

Advertenties

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

w

Verbinden met %s