Algoritmes werken kennelijk niet tegen terrorisme

Wij nemen onze verantwoordelijkheid, dat was de boodschap van Facebook in de nasleep van de terroristische aanslag in Christchurch: “In de eerste 24 uur hebben we 1,5 miljoen video’s van de aanslag verwijderd, waarvan er 1,2 miljoen geblokkeerd werden tijdens het uploaden”.

Maar, zo merkten critici gelijk op, dat betekent dus ook dat 300.000 video’s gewoon ongestoord konden worden geüpload, en vervolgens bekeken door miljoenen mensen, ondanks een oproep van de politie van Nieuw-Zeeland om dat niet te doen. Bovendien kon de terrorist de moordpartij op tientallen moskeebezoekers 17 minuten lang ongestoord live uitzenden op Facebook, zonder dat het bedrijf ingreep. Behalve Facebook hadden ook YouTube en Twitter moeite om de kopieën van de video van hun sites te weren.

Niet voor het eerst

De Nieuw-Zeelandse premier Jacinda Ardern liet dus weten dat ze nog wel wat ‘verdere vragen’ heeft voor de Amerikaanse techgiganten. Je kunt ongeveer bedenken wat voor vragen dat zijn. Bijvoorbeeld: wat heeft u de afgelopen jaren eigenlijk gedaan aan dit probleem?

Want het is niet voor het eerst dat de live-functie van Facebook in opspraak komt. Zo werd in 2017 al eens de mishandeling van een gehandicapte man in de VS live uitgezonden via Facebook, en livestreamde een Thaise vader de moord op zijn 11-maanden oude baby. Facebook zal dan ongetwijfeld antwoorden dat het continu werkt aan het verbeteren van de algoritmes en software die zulke ongewenste video’s automatisch moeten herkennen.

Maar feit is, dat zo’n technologische oplossing kennelijk niet perfect is. Niet in het herkennen van een shockerende video terwijl hij wordt uitgezonden, en ook niet in het herkennen van kopieën die later worden geüpload. Dat laatste is bevreemdend, in een tijd waarin je met een appje op je telefoon in een mum een onbekend liedje op de radio kunt identificeren. Zouden 300.000 mensen allemaal zulke subtiele wijzigingen aan de video hebben aangebracht dat ze daarmee de herkenningssoftware om de tuin hebben geleid? 

Echte mensen

Wellicht dat Ardern dan doorvraagt, of er toch niet wat meer echte mensen ingezet moeten worden om video’s te beoordelen, omdat de technologie zijn belofte niet waarmaakt. Dan zal Facebook ongetwijfeld tegensputteren, en zeggen dat het ondoenlijk is om de enorme hoeveelheid live-video’s allemaal door echte mensen te laten beoordelen. U verdient er anders genoeg geld mee, kan Ardern dan terugkaatsen. Maar als het beoordelen van de filmpjes u nóg meer geld kost, staat het u vrij om de mogelijkheid om live-video uit te zenden weer af te schaffen.

Dan zal het bedrijf de laatste troef trekken: het kan uiteindelijk niet verantwoordelijk gehouden worden voor wat derden allemaal op de site doen: wij zijn slechts een doorgeefluik. Dat is het argument dat ook vaak gebruikt wordt als het gaat om de schending van auteursrechten. 

Dat argument verliest wel langzaam aan kracht. De EU nam onlangs een nieuwe auteursrechtenrichtlijn aan, waarin grote online platforms zoals Facebook en Google financieel aansprakelijk worden gemaakt voor wat ze allemaal doorgeven. De aanslag in Nieuw-Zeeland zal allicht meer politici ertoe aanzetten om nog eens goed na te denken over de verantwoordelijkheden van grote techbedrijven.

Lees ook: 

Wie wint er bij het nieuwe Europese copyright?

De EU wil makkelijke inkomsten van tech-giganten aanpakken. Maar critici vrezen: dat heeft ook gevolgen voor het leuke filmpje dat u op Instagram uploadt.

Wat dreef de schutter in Christchurch?

De terrorist die in Nieuw-Zeeland tientallen mensen doodschoot, had een afkeer van immigratie en een verlangen naar etnische puurheid.