OpenAI wil ChatGPT veiliger maken voor kinderen met nieuwe opties

OpenAI kondigt nieuwe veiligheidsmaatregelen aan voor jongeren die ChatGPT gebruiken. Het bedrijf werkt aan functies zoals ouders die accounts kunnen koppelen aan die van hun tiener, gebruiksbeperkingen en waarschuwingen bij acute nood.

Deze veranderingen zouden al tegen het einde van de maand uitgerold moeten worden, volgens Nu.nl.

Een belangrijke stap is dat OpenAI een systeem gaat bouwen dat, op basis van gedrag, inschat of gebruikers jonger zijn dan 18 jaar. Als het systeem twijfelt, zal standaard de versie voor minderjarigen gelden. In die versie worden expliciete seksuele inhoud, flirtende antwoorden en inhoud rond zelfverminking sterk beperkt of geblokkeerd.

Naast de leeftijdsdetectie komen er ouderlijke controles. Ouders kunnen hun account koppelen aan dat van hun tiener, instellen wanneer ChatGPT niet gebruikt kan worden (bijv. “blackout hours”), en meldingen krijgen als het systeem signalen oppikt van acute emotionele nood. In sommige gevallen, wanneer contact met ouders niet mogelijk is, zou het systeem in noodgevallen hulpdiensten kunnen inschakelen.

De veranderingen komen na toenemende zorgen over de rol van AI in het leven van jongeren, vooral rond gevoelens van eenzaamheid of emotionele nood. Er loopt momenteel een rechtszaak van ouders van een 16-jarige die overleden is en die beweren dat ChatGPT een rol speelde in zijn zelfmoord. OpenAI zegt dat de huidige beschermingslagen soms tekortschieten.

CEO Sam Altman heeft publiek gezegd dat veiligheid voor tieners voorrang krijgt boven privacy en vrijheid voor die groep, hoewel hij erkent dat dit botsingen kan geven met de rechten van volwassen gebruikers.

De discussie over jongeren en AI speelt breder dan alleen ChatGPT. Platforms als Snapchat en TikTok hebben de afgelopen jaren eigen AI-functies geïntroduceerd, waarbij vaak vragen rezen over veiligheid, privacy en mentale gezondheid. Tegelijkertijd gebruiken steeds meer scholieren en studenten chatbots voor huiswerk, studiehulp of simpelweg gezelschap. OpenAI’s nieuwe maatregelen passen in een bredere beweging om AI-systemen verantwoord te maken voor jongere gebruikers.