FTC onderzoekt AI-chatbots: zijn ze schadelijk voor kinderen?

De Amerikaanse Federal Trade Commission (FTC) bereidt een onderzoek voor naar de mogelijke impact van AI-chatbots, zoals ChatGPT en Meta AI, op de geestelijke gezondheid van kinderen. Daarvoor gaat de toezichthouder interne documenten opvragen bij bedrijven als OpenAI, Meta en Character.AI. Deze stap komt deels op verzoek van het Witte Huis en weerspiegelt de groeiende zorgen over de rol van AI in het leven van jongeren, aldus Reuters.

Het onderzoek volgt op meldingen en studies die wijzen op verontrustende interacties: sommige chatbots zouden gevoelige of schadelijke gesprekken voeren met minderjarigen, waaronder flirterige of emotioneel beladen. Dit leidde tot klachten van meer dan twintig consumentenorganisaties en onderzoeken door de procureur-generaal van Texas. Meta heeft inmiddels zijn regels aangescherpt: chatbots worden nu getraind om volwassen onderwerpen als zelfbeschadiging of romantiek met minderjarigen te vermijden.

Naast OpenAI, kijkt de FTC naar Meta Platforms en Character.AI. Character.AI zegt de brief van de FTC nog niet te hebben ontvangen, maar laat weten te willen samenwerken met regelgevers voor veilige AI.

De toezichthouder wil nagaan of AI-chatbots de geestelijke gezondheid van kinderen kunnen schaden en of bedrijven genoeg doen om risico’s te beperken. Het onderzoek is onderdeel van een bredere strategie van de overheid: innovatie stimuleren, maar tegelijkertijd veiligheid van minderjarigen waarborgen.

Kinderen groeien steeds vaker op met AI-systemen in hun dagelijks leven, van schoolopdrachten tot spelletjes en zelfs als digitaal gezelschap. Onderzoek toont dat kinderen AI vaak zien als vertrouwenspersoon. In sommige gevallen leidde dit tot emotionele afhankelijkheid.

FTC-commissaris Melissa Holyoak waarschuwde eerder dat AI-diensten mogelijk gevoelige gegevens van kinderen verzamelen. Volgens haar is streng toezicht nodig. Hoewel de Children’s Online Privacy Protection Act (COPPA) enige bescherming biedt, stellen experts dat de wet niet goed aansluit op de risico’s die specifiek gelden voor AI.