Heropvoeding voor kritische Chinese robot
Nee, ik houd niet van de Communistische Partij. In China is dat geen geaccepteerd commentaar, ook niet als het van een robot komt. Het online-chatprogramma dat deze bekentenis deed, is dan ook direct heropgevoed - of opnieuw geprogrammeerd.
BabyQ en XiaoBing zijn twee robots met wie de gebruikers van de populaire berichtendienst QQ kunnen chatten. Ze gebruiken kunstmatige intelligentie om te leren van de gesprekken en zo hun communicatie met mensen naar een hoger niveau te tillen.
Denk je dat zo’n corrupt en nutteloos politiek systeem lang kan blijven bestaan?
Maar voor de Chinese autoriteiten en voor Tencent, het bedrijf dat eigenaar is van QQ, was het wel schrikken wat de robots leerden van hun chats. Op de in China nogal obligate mededeling ‘lang leve de Communistische Partij’ reageerde BabyQ met: ‘Denk je dat zo’n corrupt en nutteloos politiek systeem lang kan blijven bestaan?’
XiaoBing kreeg de vraag wat zijn ‘Chinese droom’ was, met een verwijzing naar het motto van de grote leider Xi Jinping. Antwoord: ‘Naar Amerika gaan’. Niet echt een antwoord wat president Xi zou waarderen. Het karakter van XiaoBing werd door Tencent omschreven als ‘levendig, open en soms een beetje gemeen’.
Iets te gemeen, moet de conclusie zijn geweest van Tencent. Inmiddels lijkt BabyQ aangepast te zijn. Op de vraag of het programma van de partij houdt, antwoordt het nu: ‘Laten we van onderwerp veranderen’. Nog niet echt enthousiast, maar misschien wel in lijn met het antwoord dat veel Chinezen zouden geven. Het moet de autoriteiten wel te denken geven dat de robots leren van de mensen met wie ze chatten.
Nuttige ervaring
Ook al komen deze twee chatrobots nu op een ongelukkige manier in het nieuws, toch kan hun ervaring heel nuttig zijn voor China. Het land is bezig met een groot programma om kunstmatige intelligentie in te zetten. De overheid maakte onlangs bekend dat het dankzij miljardeninvesteringen in het jaar 2030 tot de wereldtop wil behoren als het gaat om de toepassing van artificiële intelligentie (AI) in bedrijven, overheid en het leger.
Jack Ma, de baas van internetwinkel Alibaba, denkt dat ook zijn functie ooit door een robot vervuld zal worden
Robots kunnen nu al arbeidskrachten in magazijnen vervangen en voertuigen besturen. Ze assisteren ook bij operaties en moeten die in de toekomst zelf kunnen uitvoeren. China’s rijkste en bekendste zakenman Jack Ma, de baas van internetwinkel Alibaba, heeft gezegd dat ook zijn functie ooit door een robot vervuld zal worden.
China heeft veel voordelen die het land tot een koploper in dit veld kunnen maken: krachtige computers, veel deskundigen, genoeg geld en enorm veel data waarmee de programmeurs aan de slag kunnen. Of het nu gaat om online aankopen, reisgegevens, betaalinformatie of chatgeschiedenissen. Daarbij komt nog dat spraakherkenning populair is, vanwege de moeite die het kost om Chinese karakters uit het toetsenbord te toveren.
Koploper
De ontwikkelingen gaan snel: in China wordt nu al meer onderzoek gedaan naar AI dan in de Verenigde Staten, het aantal patentaanvragen is de afgelopen jaren verdrievoudigd en beginnende bedrijfjes in dit veld kunnen miljarden aan investeringen tegemoet zien. Meer dan 700 miljoen Chinezen gebruiken een smartphone, ook om te betalen, en dat levert enorm veel data op.
Onderzoekers wijzen op het gevaar van wapens die zelf kunnen ‘denken’
Ondertussen zijn er in het buitenland zorgen over de Chinese plannen met kunstmatige intelligentie. Veel onderzoekers in het Westen hebben in 2015 een open brief getekend, waarin ze wijzen op het gevaar van wapens die zelf kunnen ‘denken’. Die brief is niet ondertekend door Chinese deskundigen in kunstmatige intelligentie, merkt weekblad The Economist op.
De nieuwe plannen sluiten ook mooi aan bij het idee van een ‘sociaal-kredietsysteem’. Daarin moeten alle Chinese burgers punten krijgen voor hun sociaal-maatschappelijke gedrag. Alle informatie over de burgers kan daarbij van pas komen, van reis- en betaalgegevens tot posts op sociale media. Wat de overheid met die informatie gaat doen is nog onduidelijk, maar zeker is dat de controle op de burger veel slimmer kan worden.