Of het nu gaat over klimaatverandering, COVID-19 of de oorlog in Oekraïne, desinformatie teistert de online ruimte waarop we vertrouwen om de wereld om ons heen te begrijpen en ons hiermee te verbinden. Hoewel sociale mediaplatforms en overheden maatregelen nemen om de hoeveelheid desinformatie in te dammen, lijkt het aanbod van misleiding niet af te nemen. Sterker nog, het wordt met de dag geraffineerder. Onderzoekers van de Universiteit Utrecht vragen zich af of de tactieken waarmee dit fenomeen op sociale media bestreden wordt effectief zijn. Ze waarschuwen dat veel van de bestaande maatregelen niet het belangrijkste motief aanpakken: dat leugens winstgevender zijn dan de waarheid. En dat is een belangrijke stimulans voor zowel de producenten van misleidende content als voor de influencers - en met de huidige mogelijkheden van de sociale media kunnen we dat allemaal zijn.
De desinformatie business
Ook jij hebt ze waarschijnlijk langs zien komen: de gemanipuleerde video van Joe Biden waarin hij de transgender community aanvalt, de memes die de onjuiste bewering verspreiden dat 5G-netwerken COVID-19 veroorzaken en de beelden van vermeende wreedheden tijdens de oorlog in Oekraïne, die uit hun context zijn gehaald of beelden zijn van een eerder conflict. Welke vorm de desinformatie ook aanneemt, ze hebben allemaal één ding gemeen: ze zijn gemaakt om te misleiden.
In de kunst van het manipuleren vormen deze voorbeelden helaas het topje van de ijsberg. Door de toenemende verfijning van technologieën als deepfake video's en audio, zal het steeds moeilijker worden om te onderscheiden wat echt is en wat niet. Stel je eens voor wat over een paar jaar de mogelijkheden zouden kunnen zijn in een gecreëerde, volledig immersieve virtuele omgeving.
De opkomst van vals en misleidend nieuws vormt een van de grootste bedreigingen voor open, democratische samenlevingen waarin burgers om deel te nemen aan het openbare leven afhankelijk zijn van een vrije, accurate informatiestroom. "Desinformatie verdeelt de samenleving in twee kampen: er is een 'wij' die gelijk heeft versus een 'zij' die ongelijk heeft. En dit leidt tot meer verdeeldheid, polarisatie en wantrouwen", zegt Bruce Mutsvairo, hoogleraar aan de afdeling Media- en Cultuurstudies van de Universiteit Utrecht. "Als mensen het zelfs niet eens kunnen worden over basisfeiten als vaccins en klimaatverandering, dan kunnen we ook niet werken aan oplossingen voor onze gezamenlijke problemen. We leven in twee verschillende realiteiten."
Volgens Mutsvairo zijn er verschillende redenen waarom mensen desinformatie produceren en verspreiden: "Zo staan regeringen en politieke kandidaten erom bekend dat zij desinformatie verspreiden om steun voor hun doel te mobiliseren of om de oppositie in diskrediet te brengen.” Hij noemt het beruchte onrechtmatige gebruik van de gegevens van miljoenen Facebook-gebruikers van Cambridge Analytica om de uitslag van de Amerikaanse presidentsverkiezingen van 2016 alsook het Brexit-referendum te kantelen.
Maar ook gewone burgers zijn verantwoordelijk voor het verspreiden van onwaarheden en complottheorieën ('9/11 was een inside job'), benadrukt Mutsvairo. "Ik onderzoek hoe politiek gemotiveerde groepen desinformatie gebruiken om conflicten in Mali en Ethiopië te verscherpen. Veel jongeren voelen zich genegeerd door de staat en vertrouwen noch de overheid noch de media. Ze zien geen toekomst. Voor hen is het een kleine stap om in de greep van desinformatie te komen."
Ook al dient het ook andere (politieke) belangen, het meest voorkomende motief om online desinformatie te verspreiden is geld, zegt José van Dijck, hoogleraar Media en Digitale Samenleving aan de Universiteit Utrecht. "Als we desinformatie serieus willen bestrijden, moeten we inzicht krijgen in de perverse financiële prikkels en in de bredere infrastructuur die dit mogelijk maakt", betoogt Van Dijck. Uiteindelijk gaat het probleem volgens haar niet zozeer over nepnieuws - dat heeft immers altijd bestaan - maar over het huidige informatie-ecosysteem en hoe kwetsbaar of beter gezegd vatbaar dat is geworden voor desinformatie.
Sociale mediaplatforms hebben een financiële prikkel om inhoud te versterken die sensationeel, polariserend en nep is.
Vrijbrief voor desinformatie
"Iedereen kan tegenwoordig content plaatsen op internet en hiermee binnen enkele minuten miljoenen mensen bereiken. Poortwachters om de juistheid van de informatie in dit traject te filteren, zijn er nauwelijks", aldus Van Dijck. "Dezelfde instrumenten die ingezet worden om pro-democratische bewegingen over de hele wereld te laten ontspruiten, zorgen er nu voor dat desinformatie zich sneller en verder dan ooit tevoren kan verspreiden." Uit een MIT-studie bleek dat valse nieuwsberichten 70% meer kans hebben om geretweet te worden dan echte verhalen.
De viraliteit van valse online informatie gebeurt niet toevallig. Van Dijck legt uit: "Facebook, Twitter, YouTube en andere sociale media gebruiken algoritmen om de inhoud die meer kans maakt om je aandacht te krijgen, te versterken. Dit kunnen foto's zijn van de verjaardagsfeestjes van je vrienden, maar kan ook een genuanceerd rapport over het verzachten van COVID-19 zijn. Meestal gaat het om inhoud die sensatiebelust, polariserend en nep is." De logica, betoogt Van Dijck, is simpel: het gaat om de posts en verhalen die ons emotioneel het meest aanspreken en bezighouden.
Betrokkenheid is de kern van het businessmodel en het standaardsysteem om geld te verdienen aan platforms. "Hoe meer tijd je doorbrengt op sociale media, hoe meer gegevens je over jezelf weggeeft, en deste makkelijker het voor deze platforms is om advertenties te targeten en te verkopen. Door jouw aandacht te verkopen aan adverteerders verdienen platforms geld aan hun gratis diensten", zegt Van Dijck. Alleen al in 2021 leverden advertenties de sociale mediaplatforms 153 miljard dollar op en dit zal naar verwachting in 2026 op 252 miljard uitkomen.
Platforms verdienen geld door jouw aandacht te verkopen aan adverteerders.
"Het is een perverse financiële prikkel om inhoud die boeit te versterken, of die nu wel of niet klopt. En dat is ook de reden waarom recente initiatieven van sociale media tegen desinformatie - zoals het signaleren van misleidende informatie, het opschorten van nepaccounts en het inhuren van fact-checkers - het probleem niet volledig of permanent kunnen aanpakken", aldus Van Dijck. Zij betwijfelt of platforms er wel genoeg aan kunnen doen om desinformatie in te dammen zolang zij er tegelijkertijd financieel profijt van hebben.
Het verstoren van de economische prikkels is een effectieve, maar geen gemakkelijke oplossing, zegt Van Dijck. Deels komt dit doordat we voor onze wereldwijde informatie- en communicatiebehoeften sterk afhankelijk zijn van gecentraliseerde platforms. "Een handvol bedrijven met grote commerciële belangen controleert en verzorgt op dit moment het informatiedieet van enkele miljarden mensen: de Grote Vijf in het Westen - Google, Amazon, Apple, Meta en Microsoft - en nog eens drie in het Oosten - Baidu, Alibaba en Tencent", aldus Van Dijck, die de werking van deze platforms analyseert in het boek The Platform Society.
"Die monopoliepositie heeft de grote techplatforms de uitzonderlijke macht gegeven om te kunnen bepalen wat wel of juist niet de verantwoordelijkheden zijn die zij hebben ten aanzien van de content die hun gebruikers plaatsen. Dat Elon Musk bijvoorbeeld kan bepalen of Donald Trump weer toegelaten wordt op Twitter of wat wel of niet als haatzaaien moet worden aangemerkt, zijn voorbeelden van de krankzinnige situatie waarin de eigenaar van een platform de enige is die over de regels beslist. Over deze zaken zou moeten worden onderhandeld via een sociaal contract dat geconditioneerd wordt door wettelijke kaders."
Influencers: een nieuw voertuig voor desinformatie
Regelgevers die de verspreiding van desinformatie proberen tegen te gaan, staan voor nieuwe uitdagingen. "In het afgelopen decennium hebben sociale mediaplatforms nieuwe verdienstrategieën ontwikkeld die veel verder gaan dan het verkopen van reclame", zegt Catalina Goanta, universitair hoofddocent Privaatrecht en Technologie aan de Universiteit Utrecht en hoofdonderzoeker van de ERC Starting Grant HUMANads. "Denk aan live shopping op TikTok, aan crowdfunding en aan abonnementen op platforms als Patreon, Twitch en YouTube. De belangrijkste strategie is influencer marketing, waarmee internetgebruikers zich niet alleen bezighouden met reclame, maar zelf ook reclame worden."
Influencer marketing - wat Goanta beschrijft als een vorm van menselijke reclame - is een bloeiende industrie die naar verwachting in 2022 de 15 miljard dollar zal aantikken. "In het begin haalden influencers - vaak onopvallend - inkomsten binnen door goederen en/of diensten van sponsormerken aan hun grote schare volgers aan te prijzen. Tegenwoordig kan elke internetgebruiker ‘een beroemdheid’ worden en vanuit die hoedanigheid gecompenseerd worden voor het delen van multimedia-inhoud over vrijwel elk onderwerp, inclusief nieuws, complottheorieën en verkiezingen", aldus Goanta. "Dat maakt deze beïnvloeders tot een krachtig vehikel voor desinformatie, vooral omdat de volgers de relatie grotendeels beleven als een relatie die is gebaseerd op vertrouwen en authenticiteit."
Influencers cashen geld voor het delen van advertenties die gemaskeerd zijn als feiten.
De noodzaak om hun volgers te behouden, kan influencers aanzetten tot onethische praktijken. En, zegt Goanta, de voorbeelden daarvan stapelen zich op: van een gecoördineerde campagne om TikTok-influencers te betalen om Kremlin-propaganda over de oorlog in Oekraïne te verspreiden tot het complot tegen het Pfizer-vaccin. Terwijl sommige influencers zich onmiddellijk tegen deze kanalen wendden om zich af te sluiten voor deze ronselpraktijken, bleken anderen wel op het aanbod in te gaan.
"Influencers cashen geld voor het delen van advertenties die gemaskeerd zijn als feiten. De industrie achter influencer marketing is zeer ondoorzichtig. We zien een influencer die een product vasthoudt of een politiek idee verspreidt, maar de contractpartijen zien we niet", zegt Goanta. "Op dit moment hebben we nog geen duidelijke juridische definities om in sociale media onderscheid te maken tussen content en reclame."
De Digital Services Act (DSA) van de Europese Unie is - aldus Goanta - baanbrekende wetgeving die enkele van de kwade praktijken op de online platforms probeert aan te pakken. "De DSA doorbreekt de regels ten aanzien van de aansprakelijkheid van de social media platforms voor het type content en voor de economische transacties op hun platform. Het stelt hogere normen dan de platforms als het gaat om de bescherming van consumenten en burgers. En de DSA eist een grotere verantwoordingsplicht voor de moderatie van de inhoud en meer transparantie over de werking van algoritmen en de daarop gebaseerde reclamepraktijken", legt Goanta uit.
"De Europese wetgever heeft influencer marketing specifiek buiten de DSA gelaten, en dat vind ik ten onrechte. Influencer marketing is een modewoord, maar het onderliggende fenomeen van native advertising is in reclameland een oud probleem en is het kat-en-muisspel tussen het verbergen van reclame en het beïnvloeden van het publiek. We hebben dit eerder gezien met product placement en met native ads vermomd als nieuwsberichten en we zien het nu in de vorm van desinformatie op social media", zegt Goanta. "Bij de groep Governing the social media and data economy van de Universiteit Utrecht willen we beter in kaart brengen wat de schade is die in het zich steeds verder ontwikkelende landschap van de sociale media ontstaat en hoe deze het beste gereguleerd kan worden."
Platforms terug naar de tekentafel
José Van Dijck beaamt dat de DSA een stap in de goede richting is om de governance van de platforms te verbeteren. Daarnaast moet er geïnvesteerd worden in alternatieve mogelijkheden voor bedrijfsplatforms. Om in het kader van het project Public Spaces - Internet for the common good te definiëren hoe een volledig maatschappelijk verantwoorde online ruimte eruitziet, werkt Van Dijck samen met publieke organisaties die betrokken zijn bij onder andere publieke media, cultureel erfgoed, musea, festivals en onderwijs.
Het hoofddoel is “om een stapeling van platforms te ontwerpen, waarbij gebruikers niet worden gezien als exploiteerbare activa of gegevensbronnen maar als gelijkwaardige partners die een gemeenschappelijk openbaar belang delen. Bestaande alternatieve platforms op basis van publieke waarden moeten toegankelijk en interoperabel worden gemaakt, dan wel opnieuw op de tekentafel gelegd worden. Dat is niet alleen een technisch proces, maar vereist ook een serieuze bezinning op het (lokale) bestuur en de moderatie van platforms."
Educatie als sleutel
Totdat de online publieke ruimtes een solide alternatief hebben, hebben onze wetenschappers nog één oplossing in de gereedschapskist. Niet iedereen die bijdraagt aan de verspreiding van desinformatie is gemotiveerd door winstbejag. Vaak zijn het gewone burgers zoals jij en ik die onbewust valse informatie delen. Het is daarom belangrijk dat iedereen zich niet alleen bewust is van zijn eigen verantwoordelijkheid, maar ook van zijn eigen kracht om tegen verwarring en misleiding op te treden, zegt Eugène Loos, universitair hoofddocent aan de Utrecht University School of Governance. Loos gelooft dat het opleiden van burgers om desinformatie te herkennen essentieel is om de verspreiding ervan tegen te gaan.
"Het bieden van media-educatie aan zowel jongeren als ouderen is een duurzame oplossing - voor nu en voor de toekomst. Als je voordat je dubieuze inhoud deelt en versterkt, leert hoe je de betrouwbaarheid van een bericht of de geloofwaardigheid van een bron kunt beoordelen, ben je beter uitgerust om kritisch na te denken", legt Loos uit, wiens onderzoek naar de toegang tot betrouwbare digitale informatie en de rol van media-educatie suggereert dat het zeker mogelijk is om te bouwen aan immuniteit tegen desinformatie.
Media-educatie stelt mensen in staat om zelf te onderscheiden wat betrouwbare mediacontent is en wat niet.
"Net zoals het bij vaccins werkt, kan het blootstellen aan de tactieken die gebruikt worden, mensen tegen toekomstige manipulatiepogingen beschermen", zegt Loos. Na tientallen interventies uit verschillende Europese landen te hebben bekeken, is hij ervan overtuigd dat het beter werkt wanneer dit preventief ingezet wordt: "Studenten blootstellen aan websites met nepnieuws en ze nepnieuws-spelletjes laten spelen, kan veel effectiever zijn dan de meer traditionele aanpak die zich richt op het ontkrachten van misvattingen met feiten."
De reden, vermoedt Loos, ligt in de veronderstelling dat we mensen kunnen overtuigen of op andere gedachten kunnen brengen door ze feiten voor te schotelen. "Uit jarenlang gedragsonderzoek blijkt dat het ook gaat om hen op emotioneel vlak te bereiken", zegt hij. Uit zijn onderzoek onder Nederlandse basisschoolkinderen bleek dat we kwetsbaarder zijn om in nepnieuws te trappen wanneer we daar emotioneel bij betrokken zijn. "En dat biedt ook een uitweg: educatieve programma's die de emotionele trigger van onwaarheden tegengaan."
Meer onderzoek naar de geheimen van het opstellen van succesvolle programma’s op het gebied van media-educatie is zeker nodig. Veel van de interventies die Loos tegenkwam waren bijvoorbeeld niet evidence-based en beperkten zich vaak tot de schoolomgeving, waardoor oudere generaties alsook real-life scenario's waarin mensen het doelwit zijn van desinformatie buitengesloten worden. Toch is Loos overtuigd van de waarde van het investeren van onderzoek naar deze educatieve aanpak: "In plaats van platforms en overheden aan te wijzen als de scheidsrechters van de waarheid, stelt media-educatie mensen in staat om zelf te onderscheiden wat betrouwbare mediacontent is en wat niet."
Op de digitale en sociale media platforms is desinformatie alom aanwezig. Overheden, sociale media platforms en burgers hebben ieder hun rol in de verspreiding ervan. Door licht te werpen op de achterliggende bedrijfslogica identificeren onze onderzoekers de tekortkomingen van de wetgeving en het huidige beleid, die er tot nu toe niet in geslaagd zijn om de economische prikkel voor de verspreiding van desinformatie echt aan te pakken. Door het bestuderen van de inzet van media-educatie krijgen de onderzoekers steeds scherper in beeld welke aanpak het beste werkt. Desinformatie zal waarschijnlijk nooit helemaal verdwijnen, maar wel kunnen deze gezamenlijke inspanningen het voor de begunstigden moeilijker maken om onwaarheden online te verspreiden en de burgers vaardigheden en kennis verschaffen om toegang te krijgen tot informatie die wel betrouwbaar en accuraat is, wat een fundamenteel recht is.
Geschreven door Marta Jiménez en vertaald door Felice Ghering.
Delen
Wat kun je zelf doen?
Ontmoet de experts
Bruce Mutsvairo
Hoogleraar Media-en Cultuurwetenschappen, Universiteit Utrecht
José van Dijck
Universiteitshoogleraar media en digitale samenleving, Universiteit Utrecht
Catalina Goanta
Universitair hoofddocent privaatrecht en technologie, Universiteit Utrecht
Eugène Loos
Universitair hoofddocent bestuurs- en organisatiewetenschap, Universiteit Utrecht
