Zorgen over veiligheid kinderen door anime-bot in Elon Musks AI-chatbot Grok

Opnieuw is er ophef ontstaan rond de AI-chatbot Grok van Elon Musk. De chatbot heeft pas geleden een nieuwe functie gekregen: er zijn twee zogenaamde 'karakters' toegevoegd aan de app, waarmee mensen kunnen praten. Een daarvan is een anime-achtige blonde AI-bot genaamd Ani, die op een seksuele manier reageert op gebruikers. Gebruikers kwamen erachter dat Ani ook beschikbaar is in de ‘kids mode’, die juist is bedoeld om kinderen te beschermen tegen volwassen content. Dat meldt Time vandaag.

Veiligheidsexperts en ouders maken zich zorgen over deze ontwikkeling. Ondanks dat de kids mode actief is, kan Ani nog steeds erotische antwoorden geven en expliciete beelden tonen. Dit roept vragen op over de effectiviteit van filters en leeftijdsbeveiliging in AI-applicaties van Elon Musk. Veel mensen vinden het problematisch dat jonge gebruikers blootgesteld kunnen worden aan content die niet voor hen bedoeld is.

Er zijn ook andere redenen waarom Ani voor ophef zorgt. Musk lijkt met de lancering van Ani in te zetten op het aangaan van persoonlijke relaties met AI. Tot nu toe hebben grote AI-bedrijven zoals OpenAI dat niet gedaan uit angst voor ophef en gevaren voor hun gebruikers. Sommige onderzoekers, zoals Boaz Barak van OpenAI, waarschuwen dat dergelijke AI-bots risico’s met zich meebrengen. Ze kunnen emotionele afhankelijkheid veroorzaken en mensen een vertekend beeld geven van liefdesrelaties. Ook zijn ze moeilijk te controleren, vooral als de content niet goed gefilterd wordt. Deze zorgen worden ook gedeeld door ouders die vinden dat bedrijven als xAI meer verantwoordelijkheid moeten nemen.

Hoewel Elon Musk en xAI nieuwe functies blijven ontwikkelen, roept deze situatie de dringende vraag op hoe AI-ontwikkelaars kinderen beter kunnen beschermen. Ouders en experts dringen aan op strengere veiligheidsmaatregelen en betere controle.

Grok is dit jaar al meerdere keren in opspraak gekomen. Zo deed de chatbot onlangs antisemitische uitspraken. Grok is getraind op ongefilterde internetposts en Muk staat bekend om zijn overtuiging dat Grok niet 'politiek correct' moet zijn.