Google heeft de functie om beelden van personen te maken met zijn AI-beeldgenerator offline gehaald, omdat het systeem 'de plank misslaat'. Mensen die de kunstmatige intelligentie vroegen om beelden van nazi's of de paus te maken, kregen bij uitstek mensen van kleur te zien.
Google stelt dat het over het algemeen goed is dat het AI-systeem een grote diversiteit aan mensen toont, maar erkent dat de beeldgenerator in dit geval historische beelden verkeerd weergeeft.
In het verleden was er juist vaak kritiek op AI-generatoren, omdat ze stereotypische beelden maakten. Bij een verzoek om een dokter maakten veel AI-systemen bijvoorbeeld alleen maar beelden met witte mannen. "Je kunt eigenlijk zeggen dat we een beetje de andere kant op zijn gegaan", zegt een woordvoerder van Google tegen RTL Nieuws. "Ons doel is juist om dat soort typische clichés uit AI weg te halen."
In een verklaring schrijft Google dat verschillende gegenereerde afbeeldingen niet accuraat zijn en in sommige gevallen zelfs beledigend. "Het spijt ons dat de functie niet goed werkte."
Afspiegeling samenleving
"Het systeem is zo gebouwd dat het voor iedereen moet werken", zegt RTL Nieuws-techjournalist Harm Teunis. "Als je bijvoorbeeld vraagt om een foto van mensen die door een winkelstraat lopen, dan wil je dat die een afspiegeling van de maatschappij laat zien."
In dit geval ging Google dus een stap te ver in die weerspiegeling. Een oud-medewerker van Google zou tegen de Washington Post hebben gezegd dat Google onder de motorkap mogelijk termen heeft toegevoegd, om zo divers mogelijk te zijn.
Met andere woorden: stel je vraagt Gemini om om een afbeelding van een conducteur, dan kan het zijn dat Google daar de term 'vrouwelijk' aan toevoegt of voorrang geeft aan resultaten met mensen van kleur.
Verbeterde versie
Google belooft beterschap en zegt binnenkort een 'verbeterde versie' van het AI-systeem uit te brengen. In de tussentijd kan de AI-generator genaamd Gemini niet worden gebruikt om beelden van mensen te maken. De overige functies, zoals het genereren van tekst of beelden zonder mensen, zijn nog wel bruikbaar.
Wanneer de nieuwe versie van Gemini beschikbaar is, weet de techgigant nog niet. "We willen eerst de fouten oplossen en het systeem goed testen. Als dat achter de rug is, brengen we Gemini weer online."
