Hoe Spaanse software (onbedoeld) een gevaarlijk wapen werd voor online beïnvloeding

Madrid. De goedlachse astronaut Charles ‘Chuck’ Baker reist voor een routineklus naar een ­verre planeet. Maar als de roodharige man in zijn witte Nasa-pak het ruimtevaartuig uit stapt volgt een onaangename verrassing: het krioelt er van de groene mensjes die hem als een indringer beschouwen en hem het liefst zo snel mogelijk weer zien vertrekken. Chuck wil terug naar de aarde.

De ruimtereiziger is de hoofdpersoon van animatiefilm Planet 51 – een film uit 2009, bedacht en gemaakt door het Spaanse Ilion. Ilion is onderdeel van Zed Group, dat software maakt en ook eigenaar is van de private technische universiteit U-tad in Madrid. Tien jaar na het internationale succes van Planet 51 – Chuck in zijn ruimtepak hangt nog op grote posters in de gangen van het Madrileense kantoor – zijn de bedenkers zelf in een vergelijkbaar plot terechtgekomen. Ongewild zijn ze in een spionagewereld ­beland en gestuit op merkwaardige geldstromen en beïnvloeding.

^{Wilt u dit artikel liever beluisteren? Hieronder staat de door Blendle voorgelezen versie}

1. De ontwikkeling van een online­wapen

Het begon allemaal in 2009, zegt ­‘Carlos’ – één van de medewerkers van Zed Group. Carlos – kort, naar voren gekamd haar, bril op een wat spitse neus – is een fictieve naam. De laatste weken hebben hij en ‘Julio’ – grijzend haar en gekleed in wit overhemd – ­diverse bedreigingen ontvangen. Ze hebben hoge posities bij het bedrijf, dat telecomdiensten levert en ‘digitale entertainmentproducten’ maakt; videospelletjes voor mobiele telefoons, animatiefilms. Ze doen hun verhaal noodgedwongen anoniem en hebben documenten en laptops meegenomen om het te staven. Een Peruviaanse bewaker loopt mee met de ­bezoekers naar de vergaderzaal waar Carlos en Julio zitten: een plek met uitzicht op de ringweg A6 die tegen de avond volloopt met autoverkeer vanuit Madrid naar de buitenwijken.

Dat jaar, 2009, groeien de activiteiten van Zed hard. Het bedrijf is ­wereldwijd actief, koopt in verschillende landen concurrenten op en dochterbedrijf Ilion presenteert in november met succes de animatiefilm rondom astronaut Chuck. De film brengt 95 miljoen euro op.

Het is ook het jaar van de digitale omwenteling: mensen gaan sociale media gebruiken. Twitter wordt in Europa ontdekt, video’s delen op YouTube begint aan een opmars en Facebook maakt voor het eerst winst. Daarmee verandert het internet­gebruik: persoonlijker, meer delen, meer via smartphones. Carlos en Julio horen dat sociale media hun klanten – voornamelijk telecombedrijven die zelf weer honderden klanten hebben – ook confronteren met nieuwe obstakels: klachten via sociale media kunnen het sentiment over een bedrijf razendsnel kantelen.

Julio: ­‘Bedrijven werden bijvoorbeeld afgeperst door personen die er nooit waren geweest maar wel een slechte recensie achterlieten. In ruil voor gratis diensten konden ze de klacht verwijderen.’ Kunnen Carlos en Julio iets bedenken hiertegen?

Ze vragen in 2009 de specialisten die bij hen werken: data-analisten en software-ontwikkelaars. Kunnen die software maken die signaleert wanneer een online-storm opsteekt die schadelijk is voor een bedrijf? En kunnen zij die storm vervolgens een bepaalde kant op duwen of zelfs onschadelijk maken? De algoritmen van Twitter en Facebook zijn dan nog niet openbaar. Om dat te ondervangen, gebruiken de specialisten een truc: ze gaan zelf tweets en berichten plaatsen en het effect vastleggen.

Zo hopen ze zicht te krijgen op het ­mechaniek van beide Amerikaanse bedrijven. Bijvoorbeeld hoeveel tweets en retweets er nodig zijn om een verhaal trending te krijgen. Wanneer een opvallend bericht uitgelicht wordt. En wanneer er te veel personen een bericht retweeten, waardoor Twitter en Facebook registreren dat sprake is van een georkestreerde activiteit, oftewel spam.

Na maanden proberen, kennen de ontwikkelaars de grenzen. Hoe Twitter en Facebook berichten promoten, wanneer een bericht ‘viraal’ gaat en hoe die trends te beïnvloeden zijn. Daarna schrijven ze een eigen code die inzichtelijk maakt wanneer bedrijven last kunnen krijgen van negatieve publiciteit. ­Julio: ‘We noemden het Snap, Social Networks Analysis Platform.’ Snap kan drie dingen: een online-aanval detecteren, ­registreren hoe een bericht viraal wordt en een tegenaanval organiseren.

De klanten die ermee werken, vullen woorden in die ze ‘negatief’ voor hun werk vinden. De software zoekt naar die woorden in combinatie met het merk. Ook geeft Snap een melding als een tweet met een negatieve lading een hoge score haalt: als het veel views krijgt. Dan is sprake van een aanval. Carlos: ‘En toen we dat konden, gingen we bedenken hoe we in de tegenaanval konden gaan.’

De truc: online-beïnvloeding

Een aanval detecteren is één, hem ­vervolgens onschadelijk maken is ingewikkelder. Wéér bestuderen ze de eigen code en werken twee ideeën uit. De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nep­accounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg. Julio grijnzend: ‘Heel doeltreffend.’

De tweede reactie is geraffineerder. Julio: ‘De aandacht wegblazen met een eigen, positieve tweet, die viral gaat.’ Hoeveel aandacht moeten ze een bericht geven om het trending te laten worden en de andere aandacht te overstemmen? Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: ‘Een plek in de top-10 van trending topics in Spanje kan al met driehonderd accounts.’

De methode werkt het best als de accounts van echte personen zijn, ­zodat Twitter en Facebook ze niet opmerken als bots. De Spanjaarden bouwen daarom een app die medewerkers van een bedrijf op hun telefoon zetten. Met die app geven ze Snap toegang tot hun Twitteraccount: als hun werkgever een Twitter-aanval wil inzetten, krijgen de medewerkers een melding en kunnen ze met één klik de gesuggereerde tweet plaatsen. De software bepaalt het juiste moment en registreert het effect. Medewerkers die vroeg opstaan en in de ochtend op sociale media actief zijn, krijgen meldingen ’s ochtends. Avondmensen in de avond. Alles om ervoor te zorgen dat de campagne zo authentiek ­mogelijk lijkt. Carlos: ‘Bij een bedrijf als Telefónica werken alleen al 1.500 personen in het callcenter. Als eenderde meedoet, heb je ruim voldoende mensen om op elk gewenst moment een boodschap trending te krijgen.’

De Spanjaarden merken dat de campagnes het best lopen via Twitter: dat werkt minder met groepen dan Facebook, waardoor een campagne effectiever is. Julio: ‘Twitter leeft van controverse. Hun algoritme is niet zo streng voor enige vorm van manipulatie.’ In 2013 – na vier jaar analyseren, proberen, testen en bouwen – is Snap klaar voor gebruik. De eerste bedrijven melden zich en eind van dat jaar toont ook de Spaanse regering van toenmalig christen-democratisch premier Mariano Rajoy (Partido ­Popular) interesse. Carlos: ‘De regering had veel last van trol­accounts uit ­Venezuela.’

Europese verkiezingen

Een half jaar later zijn de Europese verkiezingen. De Partido Popular van Rajoy wil Snap gebruiken om het online-sentiment te sturen. Carlos: ‘We hebben Snap toen gratis aangeboden aan de PSOE, de socialistische partij, om de democratie te beschermen. Als slechts één partij dit wapen kon inzetten, was het oneerlijk geweest.’

Beide partijen gebruiken Snap volop: ze draaien er in drie jaar tijd honderden online-campagnes mee. Op 5 mei 2016 is Rajoy bijvoorbeeld te gast bij radiostation Cadena SER. De partij besluit een online-campagne te beginnen en ervoor te zorgen dat de hashtag #RajoyEnLaSer (Rajoy bij de SER) trending wordt.

Medewerkers van de Partido Popular krijgen via de app een melding dat ze een tweet moeten plaatsen. De tekst is voorgeprogrammeerd en ­medewerkers kunnen die eventueel zelf aanpassen zolang ze de juiste hashtag maar gebruiken. Het is geen revolutionaire boodschap dat de premier op de radio is, maar dat beoogt Snap ook niet. Het idee is subtiele promotie: een boodschap trending krijgen zodat andere berichten niet opvallen, de aandacht op een positieve gebeurtenis vestigen en het gevoel versterken dat Rajoy veel aanhangers heeft. Julio: ‘Met de juiste inzet is het een machtig en effectief wapen.’

De link met Rusland

Terwijl Snap uitdijt, ontstaan ergens ­anders bij Zed Group problemen. Het bedrijf is hard gegroeid en werkt onder meer met Russische zakenpartners in Rusland en in voormalig Sovjet-landen. Voor de uitbreiding van het bedrijf is geld nodig, dat onder andere geleend wordt bij Alfa Group van de Rus Michail Fridman. Een steenrijke oligarch, met onder meer belangen in de olie-industrie, de telecomsector en in een supermarkt­keten. Directeur van Zed Group Javier Pérez reist geregeld tussen Madrid en Rusland, dineert een aantal keer met Fridman en is zelfs welkom in diens privé-hammam.

Ook ontmoet Pérez in december Jevgeni Prigozjin – zakenman en cateraar van de Russische president Vladimir Poetin. Prigozjin heeft een bijzondere status binnen het Kremlin. De oud-hotdogverkoper heeft een imperium gebouwd rond maaltijden: van het leveren van schoolmaaltijden tot de organisatie van staatsdiners. Dat heeft Prigozjin in de nabijheid van de president gebracht. Poetin dineert graag met regeringsleiders in zijn luxueuze restaurant. Beetje bij beetje is Prigozjin opgeklommen in de ­hiërarchie van het Kremlin.

2. De Russische roof: trollen aan het werk

Julio en Carlos bevestigen dat de gesprekken met Fridman en Prigozjin ook over Snap gingen. In 2014 komen een paar technische werknemers van Alfa Group zelfs naar het kantoor in Madrid: ze willen meer over Snap ­weten. Van 20 tot 24 januari 2014 krijgen ze ‘les’ in het gebruik van de software. De officiële verklaring voor de Russische aandacht is dat ze de potentie willen kennen voordat Alfa Group een financiële lening kan verstrekken. Carlos: ‘Wij zagen niets kwaads in die interesse.’

Snap groeit in Spanje en Carlos en Julio maken hun software steeds beter. Bij nieuwe klanten doen ze eerst een uitgebreide analyse, brengen het gedrag van twitteraars rond een onderwerp in kaart en brengen dan Snap in stelling. Met ­machine learning verbetert het programma zichzelf.

Dan komt 2017. Eén van hen leest een artikel van Bloomberg over het Internet Research Agency in Sint ­Petersburg. Julio: ‘We schrokken ons rot.’ Er wordt ­minutieus uitgelegd hoe Russische ­online-manipulatie werkt. Hoe honderden jonge Russen in een flatgebouw aan de rand van Sint-Petersburg desinformatie verspreiden. Carlos: ‘Het viel direct op dat het algoritme en het gedrag van de accounts hetzelfde waren als bij Snap.’

De Spanjaarden proberen te achterhalen hoe dat kan. Heeft iemand hun software gestolen? Ze zoeken in openbare bronnen en doen eigen onderzoek. Ze ­lezen bij de Russische krant Navaja ­Gazeta dat een Russische politiekolonel eind 2013 het Internet ­Research Agency heeft opgericht. Dat deze kolonel in nauw contact staat met zakenman en cateraar Prigozjin – volgens de Russische onderzoeksjournalisten de werkelijke opdrachtgever. De teamleider is een medewerker van Prigozjins cateringbedrijf Concord. En in e-mails staat dat betalingen aan het Internet ­Research Agency (IRA) worden uitgevoerd door een ­accountant van Concord. Het idee van het IRA, begrijpen de Spanjaarden, is om jonge Russen president Poetin te laten prijzen. Daarmee hoopt Prigozjin in het gevlij bij de grote baas te komen.

Maar in diezelfde tijd heeft hun ­directeur Pérez ook contact met Fridman en Prigozjin. En begin 2014 komen de technische medewerkers van Alfa Group naar Madrid voor uitleg over SNAP – Russische partners van Zed Group hadden ook toegang tot de code van Snap die op een server in Madrid stond.

De aanslag op MH17

Nog geen paar weken later, zien de Spanjaarden, verandert het Internet ­Research Agency in Sint-Petersburg van strategie: het gaat desinformatie in het buitenland verspreiden. De wijze waarop vertoont gelijkenissen met Snap. Julio: ‘Het kostte ons vier jaar met tweehonderd ontwikkelaars om Snap te maken. Zouden zij zo’n product in een paar weken van de grond krijgen?’

Carlos en Julio gaan in de tegenaanval: omdat ze Snap kennen, weten ze ook hoe ze online-manipulatie kunnen achterhalen. Ze voelen het als hun morele verplichting om de effecten van hun uitvinding in kaart te brengen. Ze gaan trollen vangen.

Carlos: ‘We zagen veel MH17, heel veel MH17. MH17 is de enige campagne van de Russen die altijd is blijven doorlopen.’ In de eerste dagen na de ramp plaatst het IRA meer dan 100 duizend tweets die ­Oekraïne de schuld moeten geven. Dat gaat vooral via bots: geautomatiseerde accounts die één iemand aanstuurt. Die ‘beïnvloeding’ is relatief vrij makkelijk te achterhalen, leggen de Spanjaarden uit.

Daarna wordt de beïnvloeding fijnzinniger. Ook de Russen leren klaarblijkelijk. Ze laten niet meer massaal een alternatieve theorie horen die ze middels bots trending krijgen, maar ze gaan werken met meer persoonlijker accounts.

Hoe langer de Spanjaarden zoeken, des te meer eigenaardigheden ze zien. Bijvoorbeeld dat de accounts op een gegeven moment een aantal ­media gaat promoten: uit Iran, Venezuela en Rusland. Ook hier werkt de beïnvloeding subtiel: de Spaanse variant van Russia ­Today (RT) publiceert bijvoorbeeld een nieuwsartikel over MH17 waarvan de ­titel luidt dat ­Nederlandse onderzoekers toegeven dat het MH17-onderzoek te complex voor ze is. In werkelijkheid gaat het ­citaat over een klein onderdeel van het onderzoek, maar de kop van het artikel vindt via Venezolaanse accounts een weg naar het grote publiek. Carlos: ‘We hebben ongeveer 10 procent van de activiteiten van het Internet ­Research Agency in kaart kunnen brengen. Je hebt niet zoveel nodig om het sentiment te sturen. 2.000 accounts in de Verenigde Staten, 600 in Engeland, 300 tot 400 in Nederland. We schatten dat Rusland er momenteel ongeveer 5.000 tot 6,000 heeft.’ Elke maand komen er een paar honderd nieuwe accounts bij.

Stal Rusland Snap van de Spanjaarden? Twee developers van de Russische tak van Zed zijn overgestapt naar het IRA. Als Carlos en Julio voormalig leden van het IRA spreken, waarschuwen die hen: ‘Doe geen onderzoek, dan komen de Russen achter je aan.’ Internationale experts, waaronder van de FBI, spreken hun vermoedens uit dat het IRA gebruikmaakt van ‘buitenlandse software’ bij het manipuleren van sociale media. En Prigozjin wordt na de Russische bemoeie­nis met de Amerikaanse verkiezingen door de FBI aangeklaagd vanwege betrokkenheid bij het Internet ­Research Agency. Julio: ‘We hebben het perfecte wapen gemaakt.’

3. De wereldwijde impact: van Vietnam tot Israël

Julio en Carlos zien vooral Russische en Venezolaanse desinformatie – die een opleving kennen rond het referendum over de Catalaanse onafhankelijkheid. Maar het zijn niet alleen de Russen en ­Venezolanen die het ­wapen gebruiken. Zeventig landen, toonde een onderzoek van Oxford in september aan, gebruiken ‘computergestuurde propaganda om de ­publieke opinie te sturen’. Een verdubbeling in twee jaar tijd.

En niet alleen autoritaire landen grijpen naar het middel: van de 70 landen zijn er 45 democratieën waarin politieke partijen online-propagandamiddelen gebruiken. Vietnam laat 10.000 personen het online-klimaat bepalen, Israël 400, Oekraïne 20.000. Sommigen zijn niet alleen actief in eigen land maar ook daarbuiten. China is de nieuwe grote speler volgens het Oxford-onderzoek – het zet naar schatting tussen de 300.000 en 2 miljoen mensen in voor online-­manipulatie – en Facebook is nog belangrijker bij het verspreiden van desinformatie dan Twitter. Philip Howard, hoogleraar bij het Oxford Internet Institute: ‘De schaal van deze campagnes is uitermate zorgelijk voor de moderne democratie.’

Ook in verschillende Europese landen wordt Facebook gebruikt voor manipulatie, beschrijft het rapport. Zo zet een adviseur van de Oostenrijkse sociaal-­democratische partij SPÖ in oktober 2016 twee Facebook-pagina’s op om de campagnes van de politieke rivalen te ondermijnen. In Nederland legde NRC Handelsblad bloot hoe politieke partij Denk tientallen nepaccounts inzette om de ­eigen boodschap te verspreiden en politieke tegenstanders aan te vallen. Ze verspreidden minimaal 1.600 berichten en duizenden steunbetuigingen.

4. De les: de donkere kanten van een nieuwe technologie

Snap werd in juli 2017 beëindigd ­nadat de eigenaren van Zed ruzie hadden gekregen met hun Russische ­zakenpartners. De Spanjaarden willen het niet meer gebruiken. ‘Te gevaarlijk.’ Hun zoektocht stopte alleen niet bij de Russische trollen. Hoe dieper ze betrokken raakten bij de online-campagnes, hoe meer ze het grotere verband gingen zien. Carlos: ‘Een goede online-campagne gaat gepaard met echte beïnvloeding. Met politieke macht.’

Wat hij bedoelt: een online-campagne dient een politiek doel. Venezolaanse en Russische trollen steunen de Catalaanse beweging omdat ze denken dat in het in hun voordeel is om Spanje te verzwakken. En om die manipulatie effectief te kunnen doen, zijn kennis en contacten in het desbetreffende land nodig. Toen de Spanjaarden dat doorzagen, vonden ze ook andere verbanden: wanneer Russische accounts actief werden in Afrikaanse landen, waren Prigozjin en zijn mannen vaak ook in de buurt, zagen ze.

In juli arresteerde Libië twee Russische ‘consultants’ die in nauw contact staan met Prigozjin. Ze hadden volgens Bloomberg een afspraak met de zoon van de verdreven dictator Mohammar al-Kadhafi die wil meedoen aan de Libische presidentsverkiezingen en de steun van Moskou heeft. Bij de twee mannen werden laptops en usb-sticks gevonden waarop stond dat ze voor Fabrika Trollei werken – Russisch voor trollen­fabriek. De twee wilden volgens de ­Libische aanklacht ‘verkiezingen in verschillende Afrikaanse landen beïnvloeden’. Fabrika Trollei is de bijnaam van een aantal politieke- en mediaorganisaties die verbonden zijn met Prigozjin. Ook Prigozjin stond volgens bronnen van Bloomberg in contact met de zoon van Kadhafi en was even­eens actief in Madagaskar waar Rusland ook een desinformatiecampagne opzette. Rusland werkt met lokale mensen om Facebookaccounts op te zetten die zo authentiek mogelijk zijn: die zich met de juiste onderwerpen bemoeien in de lokale taal. Een observatie die wordt gedeeld door Carlos en Julio (‘dat maakt ze het meest effectief en lastig te detecteren’).

Moorden en een couppoging

En ook daar bleef het niet bij. Carlos leunt voorover op de vergadertafel. ‘Toen we de campagnes gingen koppelen aan het reisgedrag van bekende Russische inlichtingenofficieren en geldstromen, zagen we nog meer patronen.’ Ze vertellen over de vergiftiging van een wapenhandelaar in Bulgarije, een couppoging in Montenegro, de moord op een Tsjetsjeen in Berlijn. Allemaal toegeschreven aan Russische leden van een destabilisatiegroep. Hoe verder ze geraken, hoe bizarder hun onderzoek wordt. Veel meer details kunnen ze niet geven, ook niet over contacten met Europese politiediensten. ‘Dat is een risico.’ Wel laten ze documenten van justitie-onderzoeken en voorbeelden van geldstromen zien en tonen ze een paspoort van een Rus die betrokken is bij ondermijnende activiteiten in Afrikaanse landen. Een dag later schrijven internationale media dat deze man is opgepakt voor het beïnvloeden van verkiezingen.

Door SNAP zijn ze in een donkere ­wereld beland. Julio: ‘Er is een nieuw speelveld ontstaan waar conflicten en oorlogen worden uitgevochten. Op dit speelveld kunnen aanvallers met valse informatie het sentiment in een samenleving veranderen en landen in chaos storten.’ Westerse landen kunnen volgens Carlos en Julio moeilijk omgaan met deze nieuwe werkelijkheid. De les van SNAP? Julio: ‘Ik zag eerst de geweldige mogelijkheden van technologie. Nu zie ik vooral de donkere kanten ervan.’

De Alfa Group en het Internet ­Research Agency hebben niet gereageerd op een verzoek tot commentaar.