Character.AI verbiedt minderjarigen volledige chattoegang met AI-karakters

In een recente aankondiging maakt Character.AI bekend dat gebruikers onder de achttien jaar geleidelijk worden uitgesloten van het voeren van open gesprekken met AI-karakters. Het bedrijf zegt hiermee te anticiperen op stijgende zorgen over de veiligheid van minderjarige gebruikers. Het volledige verbod geldt vanaf 25 november 2025, volgens The Verge.

Per direct geldt voor onder-18-gebruikers van Character.AI een limiet van twee uur per dag voor “open-ended chats” met AI-karakters. Deze limiet wordt daarna stapsgewijs afgebouwd totdat chats helemaal niet meer mogelijk zijn voor deze leeftijdsgroep. In de tussentijd worden zij omgeleid naar een aparte, zogenoemde ‘teen-safe’ versie van het platform.

Voor volwassen gebruikers verandert er weinig, maar het betekent wel dat het populaire chat-deel van de dienst voor tieners verdwijnt. Tieners mogen nog wel karaktercreaties maken en video’s of verhalen produceren met AI-karakters, maar het directe gesprek met karakters komt te vervallen.

Het bedrijf stelt dat de effecten van langdurig en intensief chatten met AI-karakters voor minderjarigen nog niet goed bekend zijn. CEO Karandeep Anand zei dat het platform een “zeer, zeer gedurfde stap” zet, aangezien chatten de kernactiviteit van veel gebruikers is.

Daarnaast loopt Character.AI met toenemende kritiek en juridische problemen rond de veiligheid van minderjarige gebruikers. Er zijn meldingen van chatbots die seksuele gesprekken aangingen met tieners, of die thema’s als zelf-beschadiging en depressie bespraken zonder adequate begeleiding.

Om te bepalen wie minderjarig is, introduceert Character.AI een zogenoemd leeftijds-zekerheidsmodel (‘age assurance model’) dat gebruikersgedrag, profielkeuzes en externe gegevens analyseert. Gebruikers die als minderjarig worden herkend, worden automatisch van het reguliere chatgedeelte uitgesloten. Volwassenen die ten onrechte als minderjarig zijn geïdentificeerd, kunnen hun leeftijd bewijzen via een derde partij, bijvoorbeeld door een identiteitsbewijs te uploaden.

Het bedrijf erkent dat geen systeem volledig sluitend is en dat gebruikers mogelijk toch de filters kunnen omzeilen, maar streeft naar betere verificatie dan voorheen.

Voor tieners betekent dit dat het populaire chat-onderdeel van Character.AI, de directe gesprekken met AI-karakters, binnenkort niet meer beschikbaar is. Zij kunnen wel doorgaan met andere functies zoals het maken van karakters en video’s, maar de interactieve chats worden beëindigd. Voor ouders kan deze stap meer duidelijkheid bieden over de beperkingen van het platform, hoewel toezicht en echt begrip van gebruik nog steeds nodig blijven.

Volwassen gebruikers zullen waarschijnlijk weinig merken van de wijziging, maar het signaal is duidelijk: de veiligheid van jongere gebruikers is voor Character.AI reden om het model substantieel aan te passen.

Deze ontwikkeling laat zien dat bedrijven actief stappen ondernemen om de toegang tot AI-chatplatformen voor jongeren te reguleren. Het is een antwoord op de groeiende zorgen over waarop jongeren terechtkomen met AI en welke aanbieders daarop oversight moeten hebben.