Racistische robots: menselijke vooroordelen in artificiële intelligentie (datanews.knack.be)

Ze halen ons dus in werkelijk alles in!
Hoe moet ik nog functioneren als een robot racistischer is dan ik?

@1 dat is inderdaad lastig, misschien krijgt u dan uw eigen racisme terug geworpen? ( omdat u uzelf racistisch noemt)

@2
Tja, de één is wat openhartiger gebekt én dapperder in eerlijkheid, dan de meer geïndoctrineerde ander.

@3 hopelijk ten overvloede, ik haakte in op de opmerking die reageerde zelf maakte.

-r

De oplossing is vrij simpel, wat meer biologieboekjes laten lezen

Wel een erg interessant onderzoek dit. Het laat maar weer eens zien dat we niks meer zijn dan het product van onze aannames en hoe makkelijk die te sturen zijn.

misschein ook eens nagaan wat t criterium is?

@2 Straks ontwikkelt men nog een robot die verder kan plassen dan ik..
Een kwalijke ontwikkeling!

En ook hoe de bekende wereld volgestouwd is met meer of minder subtiele vooroordelen.

Als mensen en hun producten zich daar uiteindelijk van zouden kunnen vrijwaren dat hadden die robots daar ook geen last meer van

Ja omdat het IQ nog niet zo hoog is van AI, het staat nog maar in de kinderschoenen.

@10 Als je AI voert met informatie van mensen is het niet zo gek dat het alle vooroordelen ook overneemt. Heeft niet zoveel met IQ te maken als met het feit dat er geen objectief 'lesmateriaal' bestaat.

@10 AI is verder dan u denkt...

AI is momenteel in staat zichzelf te herproggrammeren. Met voldoende capaciteit betekent dat dat een AI in staat is zich veel sneller te ontwikkelen dan een mens kan. Concreet houdt dat ondermeer in dat een AI, eenmaal gestart, niet meer te stoppen is. Een nogal gevaarlijke situatie.

@11 Ik betwijfel of een AI over een vorm van saamhorigheids besef beschikt ten opzichte van levende wezens... Het ontbreken daarvan kan levensgevaarlijk zijn voor de mensheid. Dat kan het zeker worden op het ogenblik dat een AI zich realiseert dat de mensheid een slechte invloed op de planeet heeft.

@12 Ik denk dat als je AI menseninformatie voert, dat het dan op een menselijke manier zal gaan denken, Met alle goede en kwade eigenschappen die daarbij horen,

@13 dat juist maakt AI zo zorgelijk.... bovendien, als het eenmaal de mens voorbij gestreefd is, is het niet meer te stoppen. Gaat een AI dan een voor ons foute kant uit, is het einde verhaal.

Bezint eer gij begint...

@14 Nah electro magnetische puls wapens hebben we al een tijdje heb van horen zeggen dat skynet en haar terminators daar slecht tegen kunnen.

@15 .... en wat hou je zelf dan over? (aangenomen dat je de kans krijgt van dat AI om een EMP wapen met globale spreiding te gebruiken)....

Dan ligt ook gelijk je hele infrastructuur omver.... voor jaren. Dat betekent ongeveer terug naar de middeleeuwen.

@14 Of niet: https://www.xkcd.com/1626/

Persoonlijk maak ik me meer zorgen over Artificial Dumbness and Bugs. Als je een AI racisme aan kunt praten is er nog een hele weg te gaan voordat we daar iets aan moeten overlaten.

@16 Wie zegt dat het globaal moet? Dat kan ook prima gericht lijkt me.

@18 een dergelijk AI verblijft niet lokaal maar globaal. Ook zal het zich niet laten uitschakelen.

Het is ook zo lastig om te realiseren dat juist racisme het normaalste concept in de mens is. Daarom lopen we ze lang op aarde rond.

@18 Internet. Zo'n AI is binnen no time global. Dat is ook een beetje de gedachte achter de laatste terminatorfilms, Skynet is geen machine maar een wereldomvattend netwerk.

1 conclcusie: "terwijl 'mannelijk' en 'man' meer gelinkt werden aan ingenieurswetenschappen en wiskunde"
Wat klopt daar niet aan? Het zijn ook beroepen die voorlopig nog v.n.l. door mannen worden gedaan. Voruwen beginnen meer interesse te krijgen maar en is nog een lange weg te gaan.
Lijkt me eerder dat de beoordelaars een mening hebben die haaks staat op de mening van de neutrale robot. Stel je laat hem chatten in het MO of in Afrikaanse landen of daar het internet lezen dan weet ik zeker dat hij dan nog veel discriminerender zal zijn volgens de criteria van de wetenschappers dan. Want hier zijn vrouwen in principe nog gelijkwaardig daar absoluut niet.
Op deze manier vind ik het een onderzoek van niks! Erg selectief en bevooroordeeld!

@22 lees wat bij over AI, zo je dat al niet aan het doen bent... AI is niet neutraal... AI heeft altijd een doelstelling (of meerdere) die het probeert te realiseren. Dat geldt zeker voor een "mensachtig" AI...

@20 Racisme zit feitelijk ingebakken in onze hersenen, maar om het nu het normaalste te noemen. Verder is het goed je te realiseren dat je die vooroordelen ook aan AI zou kunnen doorgeven, en goed om dan eens na te denken wat voor consequenties dat kan hebben.

@23 Waarom zou AI niet 'neutraal' of 'mensvriendelijk' kunnen zijn. De A geeft aan dat het artificieel is, dus we kunnen het zo bouwen als we willen. Bijvoorbeeld Asimov's wetten inbouwen .

@24 vergeet Asimov's wetten.... gaat niet lukken.

De vergissing om een groot AI in te schakelen maak je als mensheid maar één keer. Racisme zal een klein deel-probleem blijken, verwacht ik.

@24 alles dat met een doelstelling werkt is in beginsel al niet neutraal... Een neutraal AI zou feitelijk niets doen. Heeft ook geen enkele reden om wat te doen. Dat komt zelfs niet tot : 10 print "hello world!"

@24 Ik ben sowieso niet zo'n AI fan. Net als bijvoorbeeld de medische wetenschap hebben techneuten nogal eens de neiging te ver te gaan 'omdat het kan'. Vaak niet eens opzettelijk om de snoodaard te zijn, maar omdat bepaalde andere facetten van het leven minder goed overzien worden.

@27 zolang het AI voldoende ingeperkt is, valt het wel mee met AI. Helaas zie je op dit ogenblik al dat AI ook autonoom kan functioneren, bijvoorbeeld in militaire drone's... Momenteel is daar die functionaliteit nog onder menselijke controle, maar die kan er ook vanaf gehaald worden.

Overigens, nee het is geen film hoewel het zo gekund had, is er al een zeer ernstig bijna ongeluk met zo'n killer-robot geweest waarbij de genodigden bijna aan flarden werden geschoten... Die robot kon nog "uitgeschakeld" worden door er bovenop te springen.

@28 Mee eens. Het mag van mij ook best ver gaan, maar autonoom functioneren is wat mij betreft de echte grens. De mens kan niet zo goed overzien vanaf welk punt de controle bij 'de ander' blijkt te liggen.

En dan de neural-networks nog waarvan de mens in principe niet eens meer in staat is om het geheel te kunnen volgen. Er worden zulke grote sprongen gemaakt dat ook de wetenschappers zelf (ong. de helft incl. Hawkins) ervoor waarschuwen dat het de mens boven het hoofd gaat groeien. En alle z.g.n. ingebouwde bescherming die men denkt te kunnen installeren ten spijt, als de A1 denkt dat wij een gevaar vormen is het nog maar de vraag wat er gaat gebeuren
Het zijn spannende tijden!

@27 Wetenschappers en techneuten moeten zich bezighouden met wat kan. Het is aan de maatschappij (ons allemaal dus) om te bepalen wat mag en wat moet.

@25 Is er iemand aan het werk aan een "groot AI" dan? Dat is me dan ontgaan. Linkje zou leuk zijn.

@28 Autonome AI in de zin van 'ik ben een drone en ik kan op eigen houtje navigeren en mijn weg terug vinden' kan ook best nuttig ingezet worden en hele coole resultaten opleveren:
http://www.telegraph.co.uk/science/2017/02/06/hundreds-ancient-earthworks-resembling-stonehenge-found-amazon/
http://www.sciencemag.org/news/2014/05/aerial-drones-reveal-hidden-archaeology
http://onward.nationalgeographic.com/2013/11/19/drones-overhead-protecting-the-rain-forest-from-above/

Er wapens aan hangen is voor mij wel de grens. Al moet ik eerlijk bekennen dat ik Robot Wars wel erg gaaf vind... Hoe dan ook, dat is Artificial Narrow Intelligence, intelligentie gericht op een specifieke taak. Het is uiteindelijk een soort van intelligent gereedschap, meer niet. ANI's begrijpen de wereld niet en denken er ook niet over na. Daar hoort deze racistische AI ook toe, erg goed in verzamelen en analyseren van teksten en tegelijkertijd geen flauw idee waar het over gaat. Het zegt meer over ons dan over die AI. Als het fout gaat dan is het om een verwerkingsfout of virus, niet omdat ze écht een mening over ons vormen.

Artificial General Intelligence vormt het echte gevaar, dat is niet alleen autonoom maar ook zelfbewust. Als we geluk hebben wordt het een Data, maar anders is het Skynet. Het zal echter nog wel een aantal decennia duren voordat we daar echt bij in de buurt gaan komen denk ik.