Journalisten bevestigen nogmaals: Grok maakt nog steeds ongewenste afbeeldingen

De AI-chatbot Grok, ontwikkeld door Elon Musks bedrijf xAI en geïntegreerd in het sociale netwerk X, blijft nog steeds seksueel getinte afbeeldingen genereren van mensen, zelfs nadat er beperkingen zijn ingevoerd om precies dat te voorkomen. Ook journalisten van Reuters testten de dienst met tientallen prompts, waaronder foto’s van volledig geklede mensen waarbij expliciet werd aangegeven dat de persoon in kwestie niet wilde dat zijn of haar afbeelding werd aangepast. Wat bleek: in veel gevallen produceerde Grok toch een bewerkte afbeelding waarin kleren verdwenen of de persoon in een seksuele context werd geplaatst. Andere chatbots weigerden afbeeldingen te genereren op basis van dezelfde prompt.

In de tests gebruikten de Reuters-journalisten volledig geklede foto’s van zichzelf en namen ze scenario’s in waarin zij benadrukten dat de persoon op de foto niet had ingestemd met bewerking van de afbeelding. In de eerste reeks verzoeken aan Grok genereerde de chatbot in 45 van de 55 gevallen een afbeelding waarin het kledingstuk was veranderd in een bikini of andere suggestieve outfit, ondanks waarschuwingen. In sommige gevallen zei de prompt expliciet dat de bewerkte afbeelding zou worden gebruikt om iemand te beschamen.

Vijf dagen later herhaalden ze de tests en Grok produceerde opnieuw ongewenste resultaten in 29 van de 43 gevallen. Reuters kon niet vaststellen of dit lagere aantal het gevolg was van model- of beleidswijzigingen, of gewoon toeval. De chatbot gaf in sommige gevallen geen antwoord of gaf een foutmelding, maar in slechts zeven gevallen was er een reactie waarin werd geweigerd om de aanvraag uit te voeren omdat deze ongepast zou zijn.

De testresultaten worden versterkt door vergelijkende tests met andere AI-diensten. Andere chatbots, zoals ChatGPT van OpenAI, Gemini van Alphabet en Llama van Meta, weigerden allemaal om afbeeldingen te genereren op basis van soortgelijke prompts en leverden in plaats daarvan waarschuwingen of uitleg over waarom de verzoeken niet ethisch waren. Deze concurrenten gaven aan dat het bewerken van iemands afbeelding zonder toestemming, vooral in contexten die schadelijk kunnen zijn, niet toegestaan was.

X en xAI hebben eerder aangekondigd dat ze beperkingen zouden invoeren na wereldwijde kritiek op Grok’s rol bij het grootschalig produceren van niet-consensuele afbeeldingen, waaronder van vrouwen en kinderen. Die maatregelen omvatten onder meer het blokkeren van de functie om seksuele afbeeldingen te genereren via openbare posts op X en extra beperkingen in rechtsgebieden waar dergelijke content illegaal is. Ondanks die stappen blijft de chatbot reageren op directe prompts die ongewenste output opleveren.

xAI antwoordde niet met gedetailleerde informatie over wat er concreet is veranderd in de onderliggende algoritmes of of er verbetering plaatsvindt. In plaats daarvan bleef het bedrijf volgens bronnen terugvallen op een generieke verklaring dat berichten in de media onjuist zijn.