Professoren AI luiden alarmbel: "Zuid-Korea bouwt robotleger dat revolutie in oorlogsvoering zal ontketenen"

57 academici uit 30 landen waarschuwen dat de universiteit de technologie op punt stelt om een leger van robots te ontwikkelen dat de hele mensheid kan vernietigen. De specialisten ondertekenden een brief waarin ze stellen de universiteit te boycotten en hun zorg uiten over de plannen.

Ze noemen die "de doos van Pandora" en stellen dat AI en robots niet mogen gebruikt worden als oorlogswapens. Het nieuwe AI-wapenlabo van de Kaist-universiteit werd in februari operationeel. Het werd gebouwd in samenwerking met Hanwha Systems, de belangrijkste wapenfabrikant in Zuid-Korea. "Eens deze doos van Pandora opengaat, zal het moeilijk zijn ze weer te sluiten", stellen de professoren.

De brief werd opgesteld door professor Toby Walsh van de universiteit van Sydney en is gericht aan professor Shin Sung-chul, voorzitter van de Kaist-universiteit. "Het is betreurenswaardig dat een prestigieus instituut als Kaist de wapenwedloop wil opdrijven", zo stelt Walsh.

"Daarom verklaren we openlijk dat we elke samenwerking met Kaist zullen boycotten tot de voorzitter van de universiteit garanties voorlegt - die we hebben gevraagd maar niet hebben gekregen - dat het centrum geen autonome wapens zonder betekenisvolle menselijke controle zal ontwikkelen."

De reden voor de boycot en de veroordeling van de universiteit is de bezorgdheid over het potentieel van AI-wapentuig. "Indien ze ontwikkeld worden, zullen autonome wapens de derde revolutie in oorlogsvoering inluiden", zo staat in de brief. "Ze zullen ervoor zorgen dat oorlogen sneller worden uitgevochten en op een grotere schaal dan ooit tevoren. Ze hebben het potentieel terreurwapens te worden."

Gisteren reageerde de universiteit bij monde van voorzitter Shin Sung-chul, die stelt dat Kaist geen dergelijke droids ontwikkelt. "We hebben niet de intentie dodelijke autonome wapens of robots te maken. Als academisch instituut voeren we mensenrechten en ethische waarden hoog in het vaandel. Kaist zal geen onderzoeksactiviteiten verrichten die tegen de menselijke waardigheid ingaan." 

Professor Walsh verklaarde tegenover CNN dat hij "grotendeels tevreden" is met de reactie van Kaist. "Maar ik heb toch nog enkele vragen omtrent hun intenties." De boycot blijft voorlopig van kracht. Dat betekent dat de academici Kaist niet zullen bezoeken of leden van de universiteit als gast ontvangen. Ze zullen ook geen bijdragen meer leveren aan eender welk onderzoeksproject waarbij Kaist betrokken is.

Volgende week debatteren 123 lidstaten van de Verenigde Naties over autonoom wapentuig. 22 landen eisen een absoluut verbod op dergelijke wapens. 

Het Zuid-Koreaanse leger heeft al een team robots aan de grens met Noord-Korea. De Samsung SGR-A1 draagt een machinegeweer met een autonome modus, maar wordt tot nog toe via cameralinks door mensen bediend.