Live meekijken met massamoord: ‘techbedrijven moeten ingrijpen’

Facebook, Youtube en Twitter probeerden de misselijkmakende beelden en de accounts van de dader Brenton Tarrant uit Nieuw-Zeeland snel te verwijderen, maar op internet is het kwaad binnen mum van tijd geschied. Inmiddels circuleert het filmpje dus overal en is te zien hoe de dader ogenschijnlijk kalm met zijn auto naar een moskee rijdt, wapens uit zijn achterbak pakt en het vuur opent op moskeegangers. Zo registreert de camera op zijn helm minutieus hoe de 28-jarige Tarrant tientallen mensen doodt. 
Online wordt dit 16 lange minuten durend filmpje wel omschreven als ‘de eerste first person mass shooting’ - de eerste massamoord gefilmd vanuit het gezichtspunt van de dader, in videogames overigens het meestgebruikte perspectief.

Maar de aanslag van vandaag is zeker niet de eerste gruweldaad die live de wereld in geslingerd wordt via social media. Eerder gingen al beelden rond van moord, zelfmoord en verkrachting via Facebook, Twitter en andere kanalen.  

_{(Artikel gaat verder na de foto)}

De reactie van de grote social mediabedrijven is steeds vergelijkbaar: we doen ons best om schadelijke video's te weren. De inhoudelijke controle is vaak een combinatie van kunstmatige intelligentie (digitale detectie) en mensenwerk (voor controle achteraf). Het ‘algoritme’ wordt zo getraind dat seks, geweld en haatzaaien snel onderschept wordt. Critici betwijfelen of er voldoende werk van gemaakt wordt. 

Zo glipte de video van de Australiër die de wapens pakt en begint te schieten blijkbaar eenvoudig door de digitale detectiemuur. Al moet het technisch mogelijk zijn om deze combinatie van beelden en geluiden - wapens in beeld, het geluid van schoten, geschreeuw, vluchtende mensen - een ‘rode vlag’ te geven, denkt Joost de Wit, oprichter en CEO van Media Distillery, een technologiebedrijf dat gespecialiseerd is in automatische beeldherkenning. ,,Dit is niet het meest ingewikkelde beeld zou je zeggen. Je kunt een algoritme best aanleren dat deze combinatie van factoren herkend moet worden, daar is zeker ruimte voor verbetering.”  Al loop je dan ook al gauw aan tegen de grenzen van de vrijheid van meningsuiting. 

Hoogleraar Nieuwe Media Jan van Dijk (Universiteit Twente) benadrukt daarbij dat het vooral een kwestie van ‘willen’ is: ,,Bedrijven als Facebook en Twitter zijn verantwoordelijk voor de inhoud die ze vertonen. Dus verbeter de algoritmes, zet er meer mensen op, investeer erin. Wat ze er nu aan doen is peanuts vergeleken bij de miljardenwinst die ze maken.” 

In een reactie benadrukt Facebook dat het alles in het werk stelt om zulke video's te weren. De accounts van de dader zijn ook verwijderd. Waarom de beelden niet sneller gedetecteerd werden, kon een woordvoerder tot dusver niet zeggen.