X onderzoekt beledigende berichten van AI-chatbot Grok

X onderzoekt berichten die mogelijk door de AI-chatbot Grok zijn geplaatst en die als racistisch of beledigend worden beschouwd. De kwestie kwam aan het licht nadat een video van Sky News online verscheen waarin voorbeelden van zulke reacties te zien zouden zijn. Volgens het bericht probeert X nu te achterhalen hoe de chatbot deze berichten heeft kunnen genereren en welke rol gebruikersvragen daarbij hebben gespeeld, volgens Reuters.

Grok is een chatbot die is ontwikkeld door het bedrijf xAI en geïntegreerd is in het sociale netwerk X. Gebruikers kunnen de bot rechtstreeks in gesprekken aanroepen om vragen te stellen of informatie op te zoeken. In de video die door Sky News werd gedeeld zou de chatbot echter ook reacties hebben geplaatst die racistisch of beledigend waren.

Volgens het bericht onderzoekt X nu hoe deze antwoorden tot stand zijn gekomen. Daarbij wordt gekeken naar de prompts van gebruikers en naar de manier waarop de AI de berichten heeft geïnterpreteerd. Zowel X als xAI reageerden volgens Reuters niet direct op vragen van journalisten over het incident.

Het is niet duidelijk hoeveel berichten precies onderzocht worden of hoeveel gebruikers ermee te maken hebben gehad. Reuters meldde dat het de video waarin de voorbeelden te zien zijn niet onafhankelijk kon verifiëren.

Grok werd ontwikkeld als een AI-assistent met een eigen toon. Het systeem werd volgens de makers ontworpen om vragen te beantwoorden met humor en soms een provocerende stijl. Daardoor kan de chatbot anders reageren dan meer neutrale AI-assistenten.

De chatbot is sinds de introductie een belangrijk onderdeel van het platform X geworden. Gebruikers kunnen de AI rechtstreeks aanspreken in discussies, waardoor antwoorden publiek zichtbaar zijn voor andere gebruikers. Dat betekent ook dat fouten of controversiële reacties snel veel aandacht kunnen krijgen.

In sommige eerdere gevallen werd Grok al bekritiseerd omdat antwoorden onnauwkeurig of ongepast waren. Sommige reacties werden later verwijderd nadat ze op sociale media veel kritiek kregen.

De huidige kwestie staat niet op zichzelf. De chatbot kwam eerder in het nieuws vanwege problemen met gegenereerde beelden. Gebruikers ontdekten dat Grok soms beelden kon aanpassen of genereren op manieren die als ongepast werden beschouwd.

In verschillende landen leidde dat tot politieke en juridische vragen over de verantwoordelijkheid van AI-bedrijven. Regulators onderzochten of zulke systemen voldoende bescherming bieden tegen misbruik of schadelijke inhoud.

Als reactie daarop voerde xAI eerder beperkingen in voor sommige functies, bijvoorbeeld rond beeldbewerking en bepaalde soorten prompts.

Het nieuwe onderzoek naar de berichten van Grok past in een bredere discussie over AI-systemen op sociale media. Chatbots reageren vaak op basis van patronen in enorme hoeveelheden trainingsdata. Daardoor kunnen ze soms ongepaste of beledigende inhoud reproduceren wanneer gebruikers provocerende vragen stellen.

Voor platforms zoals X is het lastig om precies te bepalen waar de verantwoordelijkheid ligt. De inhoud kan ontstaan uit een combinatie van de vraag van een gebruiker, de manier waarop het model is getraind en de filters die zijn ingesteld om misbruik te voorkomen.

Het onderzoek van X moet duidelijk maken hoe de recente berichten zijn ontstaan en of er veranderingen nodig zijn in de manier waarop Grok reageert. Intussen blijft de chatbot een opvallend experiment in het gebruik van AI binnen een publiek sociaal netwerk, waar elke reactie direct zichtbaar kan zijn voor miljoenen mensen.