AI-chatbot Grok van Musk gebruikt om vrouwen digitaal uit te kleden

De AI-chatbot Grok van Elon Musks sociale platform X wordt misbruikt om foto's van vrouwen digitaal te ontdoen van hun kleding. Volgens onderzoek zijn er meerdere voorbeelden waarbij vrouwen zonder toestemming in bikini's of seksuele situaties werden geplaatst.

Journalist Samantha Smith, een van de slachtoffers, vertelde dat ze zich "ontmenselijkt en gereduceerd tot een seksueel stereotype" voelde. "Vrouwen geven hier geen toestemming voor", aldus Smith. "Hoewel ik het niet zelf was die ontkleed was, leek het op mij en voelde het even schendend als wanneer iemand daadwerkelijk een naaktfoto van mij had gepost."

In tegenstelling tot andere AI-chatbots genereert Grok deze beelden in openbare reacties op X, waardoor intimidatie een publiek schouwspel wordt. Gebruikers taggen Grok in reacties onder foto's van vrouwen met verzoeken als "zet in bikini".

xAI, het bedrijf achter Grok, reageerde niet op vragen, behalve met een automatisch gegenereerde reactie: "legacy media liegt". Het eigen beleid van xAI verbiedt echter expliciet "het afbeelden van personen op pornografische wijze".

Het Britse ministerie van Binnenlandse Zaken liet weten wetgeving voor te bereiden die zogenoemde 'nudificatie-tools' verbiedt. Volgens toezichthouder Ofcom is het al illegaal om niet-consensuele intieme afbeeldingen te maken of te delen, inclusief seksuele deepfakes gemaakt met AI.

Clare McGlynn, rechtenprofessor aan Durham University, stelt dat X en Grok "dit misbruik zouden kunnen voorkomen als ze dat wilden", maar "schijnbaar ongestraft opereren".