Het summum van gevaar: onvoorspelbare kunstmatige intelligentie (volkskrant.nl)

Ik zei het ook al in het draadje wat betrekking had op het stuk van Bronkhorst (waar dit artikel dus weer op reageert) :

De vergelijking met auto's en vliegtuigen is wat onzinnig. Fahrenfort heeft goed gezien dat het gevaar van AI juist voortkomt uit een mogelijkheid zichzelf te verbeteren (of in dit geval: de regels op te rekken, willen we dat het een beetje zinvol en toepasselijk is allemaal). Dat alles was natuurlijk niet relevant bij de menselijke angst voor vliegtuigen, die we nog hebben kunnen verbeteren terwijl we ze al gebruikten.

Bij AI zullen we die mogelijkheid vroeg of laat verliezen. Er komt gewoon een punt dat het zichzelf sneller en beter kan verbeteren dan wijzelf en we dus de controle verliezen. Je kunt als mens, als dat moment eenmaal bereikt is, niet eventjes zeggen 'kom, laten we het heft weer in handen nemen' want het is gewoon simpelweg te laat tegen die tijd. Vooraf zullen er discussies moeten plaatsvinden over hoe ver we AI willen laten gaan. Dat zal sowieso wel nodig zijn, want willen we überhaupt in een samenleving leven waarin robots niet alleen het zware werk doen, maar tevens onze schilderijen maken, onze boeken schrijven en onze talenten langzaamaan verdringen simpelweg omdat ze het altijd beter, sneller en diepzinniger zullen kunnen doen als AI eenmaal zo ver is?

Al met al vind ik Fahrenfort een stuk realistischer en wat minder naïef dan Bronkhorst.