Dat Facebook het moeilijk heeft met controversiële content was al langer duidelijk. Sinds de site bijvoorbeeld de mogelijkheid introduceerde om live video’s te streamen, zijn er al meerdere live moorden en zelfmoorden te zien geweest. Dat soort content wil Facebook natuurlijk niet zien, maar op andere gebieden blijkt er een dun koord te zijn waarop de site balanceert.

De Britse krant The Guardian kreeg meer dan honderd interne documenten in handen. Die schetsen een duidelijk beeld van hoe het sociale netwerk van CEO Mark Zuckerberg probeert de moeilijke balans tussen het beschermen van de vrijheid van meningsuiting en het beschermen van gebruikers te vinden.

De algemene regel is bijvoorbeeld dat gewelddadig taalgebruik toegestaan is, tenzij het gaat om een “geloofwaardige” bedreiging jegens een individu of groep. Zo mag men bijvoorbeeld wel schrijven “schop die roodharige”, maar niet “iemand, schiet Donald Trump neer”. Verder is volgens Facebook een statement als “ik ga je vermoorden” algemeen gebruikt en dus toelaatbaar. Veel mensen gebruiken volgens Facebook gewelddadig taalgebruik zonder dat ze het serieus bedoelen. Daarom is dat soort taalgebruik lang niet altijd in strijd met de regels.

Er zijn verder nog veel meer grijze gebieden. Facebook blijkt moordvideo’s in sommige gevallen wel toe te staan, net als video’s waarin iemand zichzelf verwondt. Dat mag, mits de content aangemerkt is als verontrustend en de beelden het bewustzijn rond bepaalde gevoelige zaken vergroten. Kindermisbruik, of beelden waarin dieren mishandeld worden, zijn ook toegestaan indien het materiaal correct gelabeld is en het helpt om daders en slachtoffers te identificeren.

Het laat zien hoe ingewikkeld de balans is die Facebook moet vinden. Want wanneer is een video waarin een moord te zien is toelaatbaar? Als het bijvoorbeeld gaat om politiegeweld, of etnisch geweld? Of juist, zoals bij kindermisbruik, als de beelden kunnen helpen om de daders op te sporen?

Facebook heeft ook problemen als het aankomt op naaktfoto’s. Recent kwam de site nog in opspraak wegens het weghalen van de foto van het napalmmeisje, die het geweld waar burgers tijdens de Vietnamoorlog mee te maken kregen perfect illustreert. De foto werd van Facebook gehaald wegens ontoelaatbaar naakt en later weer online gezet. Nu blijkt uit de documenten van The Guardian  dat nieuwswaardige foto’s van naakte mensen sindsdien wel toegestaan zijn.

Facebook laat in een statement aan The Guardian weten dat het erg ingewikkeld is om een goede balans te vinden in dit opzicht. Er zijn immers veel uiteenlopende ideeën over wat wel en niet acceptabel is om te zien. Met zijn twee miljard maandelijks actieve gebruikers is het steeds moeilijker al die verschillende interpretaties te vereenzelvigen, waarvoor het bedrijf op dit moment dan ook op zoek is naar duizenden nieuwe moderators.