De AI-wet moet ervoor zorgen dat de risico's en gevaren van kunstmatige intelligentie worden ingeperkt. Eind vorig jaar bereikten de Europese Commissie, de Europese Raad en het Europees Parlement na lang beraad eindelijk een akkoord op de invulling van de AI-wet.
Eurocommissaris Thierry Breton (Interne Markt) sprak van een historisch moment, want de Europese AI-wet is de eerste ter wereld. Over het algemeen geldt voor de wet: hoe groter het risico van kunstmatige intelligentie op de veiligheid en de mensenrechten, des te strenger de regels zijn om de AI te mogen gebruiken.
Sommige systemen worden zelfs helemaal verboden. Denk aan programma's die burgers kunnen beoordelen op hun gedrag, zoals in China gebeurt.
AI-systemen getoetst aan risico's
Volgens de AI-wet wordt kunstmatige intelligentie ingedeeld op basis van risiconiveaus. Want het ene systeem heeft een hoger risico op misbruik dan het andere. De systemen in de hoogste risicocategorie moeten eerst door een strenge keuring voordat ze in Europa uitgebracht en ingezet mogen worden.
Algoritmes die cv's van sollicitanten doorspitten moeten aan bepaalde eisen voldoen, zodat ze bijvoorbeeld niet discrimineren. Hetzelfde geldt voor programma's die met rechtspraak of medische apparaten te maken hebben.
Compromis over slimme camera's
Afspraken over de inzet van slimme camera's in de publieke ruimte leidden tot de meeste discussie tijdens de onderhandelingen over de AI-wet. Deze camera's met gezichtsherkenning zouden niet alleen personen, maar ook emoties en afkomst kunnen herkennen.
Voorstanders zeiden dat hiermee verdachten bijvoorbeeld sneller opgespoord konden worden. Maar tegenstanders waren bang dat op die manier een surveillancestaat zou ontstaan.
Uiteindelijk werd een compromis bereikt. Overheden mogen dit soort camera's in de publieke ruimte alleen gebruiken in uitzonderlijke gevallen, bijvoorbeeld als er sprake is van een verhoogde dreiging van terroristische aanvallen. Er komt wel een verbod op het ongericht scannen van portretfoto's op internet en camerabeelden.
Nu begint het écht
Na de stemming in het Europees Parlement volgt de publicatie van de definitieve wet in mei. Vanaf dan treden de nieuwe regels in verschillende termijnen in werking.
Een half jaar nadat de wet er ligt, gaan de verboden in. Het gaat dan bijvoorbeeld om een verbod op foutief gebruik van gezichtsherkenning en een verbod op massasurveillance door middel van AI.
In mei volgend jaar volgen de regels voor generatieve AI-systemen zoals chatbot ChatGPT en beeldengenerator Midjourney. Dit soort systemen moeten transparant zijn over de data waarmee ze zijn getraind. Ook mogen ze geen illegale inhoud maken.
Pas in mei van 2026 gaan de laatste regels in. Dan is het verplicht om bij systemen met een hoog risico een mensenrechtentoets in te bouwen, die vastlegt dat een AI-systeem bijvoorbeeld niet bevooroordeeld is of discrimineert.
Bedrijven die de AI-wet in Europa overtreden, kunnen flinke boetes krijgen. Een boete bedraagt maximaal 35 miljoen euro of 7 procent van de wereldwijde omzet, afhankelijk van de overtreding en de grootte van het bedrijf.
NUjij: Uitgelichte reacties