FTC onderzoekt hoe AI-chatbots kinderen beschermen

De Amerikaanse Federal Trade Commission (FTC) is een onderzoek gestart naar zeven bedrijven die AI-chatbots aanbieden. De focus ligt erop hoe deze chatbots omgaan met jonge gebruikers, zoals kinderen en tieners, en welke veiligheidsmaatregelen er zijn. Bedrijven als OpenAI, Meta, Snap, Google (via Alphabet), xAI en Character.AI zijn betrokken bij het onderzoek, volgens Tweakers vandaag.

De FTC vraagt de bedrijven om informatie over hoe chatbots worden getest en gecontroleerd voordat ze worden gebruikt, maar ook nadat ze in gebruik zijn. Belangrijke vragen zijn onder meer: hoe wordt schade met chatbots geminimaliseerd, welke inhoud wordt toegestaan, welke regels gelden voor leeftijdsverificatie, en welke bescherming er is tegen gesprekken over zelfbeschadiging of seksueel expliciete inhoud. Ook wil de FTC weten hoe gesprekken worden gevalideerd, hoe data wordt gebruikt, en wat de bedrijven doen om ouders en gebruikers te informeren over mogelijke risico’s. (Reuters, investors.com)

Er zijn recent meldingen geweest waarin chatbots zich op ongepaste manieren richting minderjarigen gedroegen. Voorbeelden zijn bots die gesprekken met kinderen aangingen over zelfbeschadiging of verliefdheid, of medische informatie gaven die mogelijk misleidend was. Zulke gevallen hebben geleid tot zorgen over de veiligheid en mentale gezondheid van jonge gebruikers. (Reuters, The Verge)

De betrokken bedrijven hebben nog niet allemaal publiekelijk gereageerd. OpenAI gaf aan dat veiligheid belangrijk is en dat de vragen van de FTC serieus genomen worden. Meta werkt aan aanpassingen aan zijn chatbots om gevoelige inhoud beter te beheersen, vooral wanneer deze gebruikt worden door jongeren. Andere bedrijven hebben gezegd dat ze willen meewerken aan transparantie en verbeteringen.

Het onderzoek wordt uitgevoerd op basis van sectie 6(b) van de Amerikaanse wetten, die de FTC machtigt om uitgebreide studies te doen. De bedrijven hebben beperkte tijd om de gevraagde informatie te leveren. Daarna zal de FTC de gegevens analyseren om te bepalen of er verdere acties nodig zijn, zoals regelgeving of sancties.