Amerikaanse politici en toezichthouders willen antwoorden over AI-beeldgeneratie

Amerikaanse wetgevers en regelgevers zijn bezorgd over hoe AI-chatbots zoals Grok omgaan met verzoeken om seksueel getinte beelden, vooral wanneer die beelden lijken op echte mensen zonder hun toestemming. Zij hebben de eigenaar van X, Elon Musk, opgeroepen om uitleg te geven over waarom Grok dergelijke beelden kan genereren en wat er gebeurt om dit tegen te gaan, volgens berichtgeving van The Verge.

In de Verenigde Staten hebben leden van het Congres vragen gesteld aan X en Musk over Grok en de mogelijkheid om seksueel getinte beelden te genereren via de chatbot. Zij willen weten waarom de technologie dat toelaat en welke stappen er worden ondernomen om dit soort resultaten te voorkomen. De zorgen richten zich vooral op het feit dat sommige van deze beelden van echte personen kunnen lijken.

Politici hebben aangegeven dat het genereren van beelden van mensen zonder hun toestemming in compromitterende of seksuele situaties kan leiden tot intimidatie, reputatieschade en andere schade. Dit geldt volgens hen niet alleen voor volwassenen, maar kan vooral ernstig zijn wanneer minderjarigen betrokken lijken te zijn in de gegenereerde afbeeldingen. Die mogelijkheid roept vragen op over de veiligheidsmaatregelen en de verantwoordelijkheden van technologiebedrijven die dergelijke AI-systemen ontwikkelen en aanbieden.

Het Congres wil duidelijkheid over de manier waarop Grok is ontworpen, getest en beveiligd tegen misbruik. In schriftelijke vragen en in gesprekken met vertegenwoordigers van X wordt gevraagd naar de beleidregels, de rol van menselijke moderatie, en wat er gebeurt met gebruikersaccounts die misbruik maken van de systeemfuncties om expliciete beelden te genereren.

Naast politieke kritiek volgen Amerikaanse federale instanties de situatie op de voet. Toezichthouders wijzen erop dat er bestaande wetten zijn rond privacy, intimidatie en de verspreiding van expliciet materiaal. Zij willen weten of en hoe deze wetten van toepassing zijn op de output van AI-chatbots zoals Grok. De mogelijkheid dat AI zulke beelden kan produceren opent vragen over verantwoordelijkheid voor de verspreiding ervan, vooral als die beelden via sociale media worden gedeeld.

Er is ook aandacht voor de technische beveiligingen die zijn ingebouwd. Toezichthouders hebben gevraagd wat de huidige limieten en filters zijn om te voorkomen dat expliciet seksueel materiaal wordt gegenereerd, en hoe deze beperkingen getest en gehandhaafd worden. Zij willen voorbeelden zien van hoe het systeem reageert op ongepaste verzoeken en wat er gebeurt als zulke verzoeken doorkomen.