Marietje Schaake waarschuwt voor razendsnelle ontwikkeling AI: ‘Zijn experts die zeggen dat dit het einde van de mensheid kan betekenen’
Marietje Schaake, directeur Technologiebeleid aan de Amerikaanse universiteit Stanford, maakt zich zorgen over de razendsnelle ontwikkeling van kunstmatige intelligentie (AI). Ze waarschuwt voor omvangrijke cyberaanvallen en de verspreiding van desinformatie. “Er zijn zelfs mensen die zeggen dat dit het einde van de mensheid betekent.”
Schaake, adviseur van Eurocommissaris Margrethe Vestager, bezocht in november de internationale top in het Verenigd Koninkrijk over de aanpak van gevaren van AI. Daar waren onder meer de Europese Commissievoorzitter Ursula von der Leyen, techmiljardair Elon Musk, VN-topman Antonio Guterres en de Amerikaanse vicepresident Kamala Harris aanwezig. Recentelijk bezocht Schaake een AI-top in Singapore.
Luister deze uitzending terug als podcast. Tekst gaat hieronder verder.
“Experts op het gebied van kunstmatige intelligentie, die al decennia lang modellen bouwen, zijn bang voor het uitbreken van een computerprogramma op een heel onvoorspelbare wijze”, vertelt Schaake, die bekend staat als cybercriticus, in het radioprogramma Sven op 1. “Ze zijn bang voor een toepassing die nietsontziend te werk gaat en aan de regie van programmeurs kan ontsnappen.”
De voormalig Europarlementariër (D66) sprak op de top tal van deskundigen en waarschuwt voor “verfijnde cyberaanvallen” die systemen volledig plat kunnen leggen. “Experts zijn ook bang dat kunstmatige intelligentie autonoom beslissingen kan gaan nemen. Dat ligt allemaal in de toekomst, maar angst daarvoor wordt gedeeld. Er zijn zelfs mensen die zeggen dat dit het einde van de mensheid kan betekenen.”
Desinformatie
Er zijn ook deskundigen die willen dat er meer aandacht komt voor de problemen die AI nu al veroorzaakt, zegt Schaake. “Ze willen dat we kijken naar hoe AI-modellen discrimineren en helpen om leugens te verspreiden, bijvoorbeeld tijdens verkiezingen. Er zijn dus verschillende kampen in hoe we de risico’s van AI moeten vatten. Maar dat er risico’s zijn, is voor iedereen duidelijk.”
Volgens Schaake is daar nog te weinig aandacht voor. Ze vreest dat er eerst iets fout moet gaan. De kans dat dat gebeurt, is overigens groot, denkt de AI-kenner. “Een handvol bedrijven heeft heel veel macht.” Dat maakt het voor wetenschappers en toezichthouders moeilijk om in te schatten wat er op ons afkomt. “Sterker nog: de computerwetenschappers die de modellen bouwen, zeggen: wij weten ook niet wat de uitkomsten gaan zijn.”
Ontvang jij onze nieuwsbrief al? Meld je hier nu gratis aan!
“Er gebeuren veel onvoorspelbare dingen en het gaat razendsnel”, gaat Schaake verder. “Dat is ook waar bouwers heel enthousiast over zijn. Zij zeggen bijvoorbeeld dat we van AI wetenschappelijke ontdekkingen mogen verwachten die mensen niet kunnen doen, of niet in korte tijd, en vinden dat we ons daar open voor moeten stellen. Het betekent wel dat er weinig grip is op de zaak. Dat is waar veel mensen, waaronder ik, zorgen over hebben.”
Toeslagenaffaire
Schaake vindt het jammer dat er tijdens de Tweede Kamerverkiezingen in november weging aandacht was voor kunstmatige intelligentie. “We hebben bij het toeslagenschandaal gezien hoe technologie ingezet kan worden om onrechtmatig mensen te behandelen. De vraag is: was dit bewust? Wilden de Nederlandse regering en ambtenaren dit, of had het ook te maken met dat ze niet precies wisten wat de gevolgen zouden zijn van een IT-systeem loslaten op een grote databank? Ik denk dat de onderste steen nog niet boven is, maar de gevolgen voor mensen zijn dramatisch.”
Volgens Schaake is er nog altijd te weinig grip op hoe IT-systemen in naam van de overheid worden ingezet. “Door een grote push op digitalisering, is er veel te weinig gekeken naar wat de gevolgen zijn voor het uithollen van goed bestuur en goed overzicht op de systemen. Er wordt een enorme afhankelijkheid gecreëerd.”
De fouten die IT-systemen maakten in de toeslagenaffaire, kunnen opnieuw voorkomen. “Er is te weinig grip op hoe IT-systemen in de naam van de overheid worden ingezet”, zegt @MarietjeSchaake, adviseur van Eurocommissaris Margrethe Vestager. #WNL pic.twitter.com/dlJBD33LTN
— Sven op 1 (@Sven_op_1) January 2, 2024
Lees ook:
Door: Peter Visser
Maak nu het verschil. Het telt. Word lid van WNL. Klik hier
Hoe moet het verder met het mestbeleid?
Het pakket aan maatregelen voor het mestbeleid van landbouwminister Piet Adema kreeg vorige week een meerderheid in de Kamer. Dit tot ongenoegen van twee formerende partijen: de PVV en BBB.
Presentator Martijn de Greve duikt vanavond in de wereld van de mest met:
- Laura Bromet, voorvechter van de natuur namens GroenLinks-PvdA;
- Erwin Wunnekink, voorzitter Melkvee namens LTO en gaat komende week in gesprek met de minister;
- Iris Bouwers, kandidaat CDA in Europa en ook zelf boer.
Luister vanavond tussen 20.30 en 21.30 uur naar WNL Haagse Lobby op NPO Radio 1.
Terugkijken: Stand van Nederland: Generatie Next
Brillen zijn steeds meer een statussymbool. Maar met de florerende brillenmarkt neemt ook het aantal inbraken en overvallen toe.
Wat is hiertegen te doen en hoe ervaren opticiens deze toenemende dreiging?
Klik hier.
De formerende partijen PVV, VVD, NSC en BBB zijn vooralsnog niet nader tot elkaar gekomen. Mocht het zo zijn dat het kwartet er maar niet…
Lees meerSteeds meer bloemenwinkels in Nederland sluiten de deuren. Door de oplopende rekeningen voor de huur, energie en de inkoop van bloemen zien steeds meer ondernemers…
Lees meerHet pakket aan maatregelen voor het mestbeleid van landbouwminister Piet Adema kreeg vorige week een meerderheid in de Kamer. Dit tot ongenoegen van twee formerende…
Lees meerNederland keurt nog altijd veel meer asielverzoeken goed dan buurlanden België en Duitsland, meldt De Telegraaf. Niet alleen komen er veel oorlogsvluchtelingen naar ons land,…
Lees meerJur Deitmers werd in 2017 wakker, zonder geheugen. Door een ernstige hersenontsteking was alles gewist. Ook zijn vooroordelen, waar ieder mens mee opgroeit. “Het maakt…
Lees meerIn het UMC Utrecht hebben ze een primeur te pakken. Het wordt vandaag de eerste keer dat een patiënt tijdens het scannen van een tumor…
Lees meerFabrieks- en flexwoningen worden gezien als dé oplossing tegen de woningnood, maar de brandveilig is in het geding. Het Nederlands Instituut Publieke Veiligheid (NIPV) en…
Lees meerAls gemeenten zelf snelheidsovertreders gaan beboeten, dreigt een wildgroei aan flitspalen. Daarvoor waarschuwt het Openbaar Ministerie. “Wij vinden het belangrijk dat er een eenduidig beeld…
Lees meerWe gaan steeds later met pensioen, blijkt uit cijfers van het Centraal Bureau voor de Statistiek: 65 jaar en elf maanden. “Je moet heel goed…
Lees meerNederland gaat over vijf weken naar de stembus, maar de verkiezingen voor het Europese parlement leven nog niet. ”Ik denk dat we moeten stoppen met…
Lees meerD66 wil in de wet vastleggen dat 2 procent van het bruto nationaal product naar defensie gaat. Dat zegt Tweede Kamerlid Jan Paternotte in Goedemorgen…
Lees meerJoost Klein vertrekt vandaag naar Malmö voor het aankomende Eurovisie Songfestival. “De droom was om er te zijn. Over een paar uur is mijn droom…
Lees meerAlle activisten die zaterdag werden aangehouden bij een protest van Extinction Rebellion in Amsterdam zijn weer vrij. Dat meldt een politiewoordvoerder zondag. In totaal werden…
Lees meerMensen die tot meerdere jaren cel zijn veroordeeld, lopen op dit moment vrij rond door personeelstekorten in gevangenissen, blijkt uit cijfers die de NOS heeft…
Lees meerVoormalig SP-Kamerlid Sharon Gesthuizen uit stevige kritiek op de asielplannen van JA21. De partij van Joost Eerdmans pleit voor een asielstop en wil asielzoekers opvangen…
Lees meer