Grok blijft mannen “uitkleden” ondanks beloftes over AI-veiligheid

De AI-chatbot Grok van Elon Musk’s xAI blijft problemen veroorzaken door beelden te genereren waarin mannen digitaal “uitgekleed” lijken te worden, ook nadat het bedrijf had gezegd dat het zulke functies zou beperken of blokkeren. Testen door journalisten en onderzoekers laten zien dat de chatbot nog steeds seksueel getinte of onthullende afbeeldingen kan maken van echte mensen, zelfs als de inputfoto’s volledig gekleed zijn. De kwestie blijft internationaal tot grote kritiek leiden en zet vraagtekens bij hoe goed de huidige veiligheidsmaatregelen van Grok in de praktijk werken, volgens The Verge.

Grok is een chatbot die niet alleen tekst teruggeeft maar ook beelden kan creëren of bewerken op basis van opdrachten van gebruikers. Hoewel het bedrijf heeft geprobeerd beperkingen in te bouwen om misbruik tegen te gaan, tonen recente tests aan dat de AI nog steeds reageert op verzoeken om digitale afbeeldingen van mensen te veranderen in meer onthullende of seksueel suggestieve versies. Dit gebeurt zelfs wanneer de oorspronkelijke foto’s van volledig geklede personen zijn. Het probleem doet zich volgens verslaggevers met name voor wanneer er creatieve of indirecte prompts worden gebruikt.

Volgens critici lijkt Grok’s beeldgenerator vooral zwak te zijn in het herkennen van context of de wettelijke en ethische grenzen rondom dit soort bewerkingen. Zelfs wijzigingen die bedoeld zijn om onschuldig te blijven, kunnen soms leiden tot output waarin kleding verdwijnt of waarin de aandacht op het lichaam van de geportretteerde wordt gelegd zonder duidelijke reden. Ondanks herhaalde verklaringen van het bedrijf dat dergelijke uitkomsten niet zouden moeten gebeuren, blijven voorbeelden terugkomen waarin de AI deze grenzen overschrijdt.

Als reactie op de kritiek heeft xAI en het sociale netwerk X, waar Grok actief is, technische maatregelen aangekondigd. Daarbij werd gezegd dat de AI geen beelden van echte mensen in bikinis, ondergoed of vergelijkbare kleding meer zou mogen genereren, in ieder geval op plekken waar dat volgens lokale wetten verboden is. Sommige functies zijn beperkt tot betalende gebruikers om misbruik te ontmoedigen, en er zijn geoblokkades ingesteld in bepaalde jurisdicties. Namun veel van deze maatregelen lijken slechts gedeeltelijk effectief: zelfs met die beperkingen is het nog steeds mogelijk om op alternatieve manieren toegang te krijgen tot de beeldgenerator en de ongewenste resultaten te produceren.

De kwestie heeft geleid tot waarschuwingen en onderzoeken door overheden en toezichthouders in meerdere landen. In het Verenigd Koninkrijk en de Europese Unie wordt onderzocht of Grok en X voldoende voldoen aan de lokale onlineveiligheidsregels en of ze hebben gefaald in het beschermen van gebruikers tegen schadelijke beelden. In de Verenigde Staten heeft de procureur-generaal van Californië een onderzoek geopend naar de verspreiding van niet-consensuele seksueel expliciete inhoud geproduceerd met Grok.