“Vermoord je pleegouders”: virtuele assistent Alexa geeft klant van Amazon bizar bevel

De gebruiker die de boodschap door zijn speakers hoorde galmen, dacht er natuurlijk geen moment aan om de opdracht werkelijk uit te voeren. In plaats daarvan schreef hij een strenge recensie op de Amazon.com. Daarin noemde hij Alexa “een nieuwe vorm van griezelig”.

Uit een onderzoek naar de speaker en de bizarre uitspraak, blijkt dat de quote van Reddit.com was geplukt. Reddit is een Amerikaanse sociale nieuwswebsite die gebruikers toelaat om berichten toe te voegen in de vorm van een link of eigen tekst. Het resultaat is een ellenlange lijst aan grove berichten waaronder de boodschap die de Amazon gebruiker ontving. 

De recente opdracht om pleegouders te vermoorden is niet het eerste foutje dat Alexa maakt. Wellicht wel de meest bizarre fout. Amazon traint het apparaat immers om zich zo menselijk mogelijk te gedragen zodat het zich uiteindelijk zelfs in gesprekken kan mengen, met een vraag of opmerking. Dat gebeurt met computerprogramma’s die menselijke spraak transcriberen om vervolgens de best mogelijke reactie aan te raden op basis van observatiepatronen. “Vermoord je pleegouders”, was ongetwijfeld een vergissing.