Grok beperkt beeldgeneratie na kritiek

Grok kan voortaan minder beelden genereren op basis van tekstopdrachten van betalende gebruikers. Elon Musk heeft besloten om de mogelijkheden van de AI-bot aan te passen nadat er veel kritiek kwam op wat de technologie tot nu toe deed met beeldverzoeken. De veranderingen gelden vooral voor afbeeldingen die gebruikers via Grok proberen te laten maken, zoals portretten of plaatjes van bekende personen, volgens Reuters.

Sinds de lancering van Grok konden betalende gebruikers van X verzocht worden om afbeeldingen te maken van mensen in allerlei situaties. Sommige van die beelden waren seksueel getint of lieten personen zien in situaties waarin zij niet werkelijk waren. Dat veroorzaakte veel onrust, vooral omdat het leek alsof de AI geen duidelijke grenzen had in wat het genereerde.

Critici wezen erop dat zulke beelden schadelijk kunnen zijn, zeker als ze lijken op echte mensen of herkenbare personen zonder dat die daar toestemming voor hebben gegeven. Beelden waarin individuen worden geplaatst in intieme of misleidende contexten kunnen reputaties schaden of privacy schenden. Dit soort kwetsingen speelde mee in de publieke kritiek op Grok, waarbij sommige gebruikers aangaven dat het systeem misbruik mogelijk maakte.

De controverse leidde ertoe dat maatschappelijke organisaties, privacyvoorvechters en zelfs regelgevers vragen begonnen te stellen over hoe dergelijke technologie gecontroleerd kan worden en welke normen er moeten gelden voor beeldgeneratie door AI.

Als reactie op de kritiek heeft Musk laten weten dat Grok voortaan beperkingen krijgt bij wat het mag genereren. In de praktijk betekent dit dat de AI-bot vanaf nu strenger is in het weigeren van opdrachten die expliciet gericht zijn op het maken van beelden van personen zonder duidelijke toestemming of legitimate context. De bedoeling is om misbruik te voorkomen en ervoor te zorgen dat X-gebruikers de functie niet kunnen gebruiken om schadelijke of misleidende beelden te maken.

Volgens berichten zijn de beperkingen met name bedoeld om seksueel expliciete of intimiderende afbeeldingen tegen te gaan. Wanneer een gebruiker dus iets probeert te genereren dat valt binnen die categorieën, zal Grok dat verzoek weigeren of een alternatieve, neutrale reactie geven.

De aanpassingen aan Grok komen op een moment dat overheden en regelgevers wereldwijd nadenken over regels voor kunstmatige intelligentie. In sommige landen worden er al wetten voorbereid om misbruik van AI-gegenereerde beelden tegen te gaan, bijvoorbeeld door verplichtingen op te leggen rond transparantie of het labelen van content die door AI is gemaakt.