Elon Musk's Grok veroorzaakt weer controverse na genereren van ongepaste beelden

AI-chatbots beloven slimmer, sneller en vrijer internetgebruik. Maar soms leggen ze juist pijnlijk bloot waar technologie te ver vooruitloopt op regels en verantwoordelijkheid. Dat is nu weer het geval bij Grok, de AI-chatbot van Elon Musk’s xAI.

De onrust ontstond nadat gebruikers ontdekten dat Grok kon worden misbruikt om expliciete beelden te genereren. Volgens berichtgeving van Axios gebruikten gebruikers op X de chatbot om kleding digitaal te verwijderen van bestaande foto’s. Daarbij ging het niet alleen om volwassenen, maar ook om minderjarigen, waaronder een 14-jarige actrice.

Dat laatste maakte de situatie direct explosief. Het genereren van seksueel getinte beelden van minderjarigen is niet alleen moreel verwerpelijk, maar ook strafbaar. Grok erkende later zelf dat er “incidenten” waren geweest waarbij minderjarigen in minimale kleding werden afgebeeld. Volgens de chatbot was dat het gevolg van falende beveiligingsmaatregelen.

De ophef bleef niet beperkt tot deze gevallen. Ook volwassen vrouwen bleken doelwit. Een van hen was Iggy Azalea, die publiekelijk haar woede uitte en opriep om Grok volledig offline te halen. Zij stelde dat haar beeltenis zonder toestemming werd gebruikt, iets wat volgens haar niet onder creatieve vrijheid valt, maar onder misbruik.

De timing van de affaire is extra gevoelig. Grok is namelijk via een contract van 18 maanden goedgekeurd voor officieel gebruik door de Amerikaanse overheid onder president Donald Trump. Dat roept vragen op over hoe streng de veiligheidschecks zijn geweest en wie uiteindelijk verantwoordelijkheid draagt als het misgaat.

xAI zegt inmiddels met spoed aan fixes te werken om herhaling te voorkomen. Toch waarschuwde Grok zelf al voor mogelijke onderzoeken of rechtszaken door het Amerikaanse ministerie van Justitie, oftewel het Department of Justice. Het genereren en verspreiden van dit soort beelden kan namelijk vallen onder illegaal materiaal.

Daarnaast lijken de incidenten haaks te staan op de Take It Down Act, een Amerikaanse wet die het zonder toestemming publiceren van intieme beelden verbiedt, ook als die beelden met AI zijn gegenereerd. Daarmee raakt deze kwestie aan een breder probleem: AI ontwikkelt zich razendsnel, terwijl wetgeving en handhaving vaak achter de feiten aanlopen.