Character.AI vervangt chatbots voor jongeren met interactieve verhalen

De populaire chatbotdienst Character.AI laat sinds kort gebruikers onder de 18 jaar niet langer vrijelijk praten met AI-personages. In plaats daarvan introduceert het bedrijf nu een nieuwe functie: Stories. Met Stories kunnen jongeren nog steeds met hun favoriete personages omgaan, maar dan via begeleide, interactieve fictie in plaats van open chats, volgens TechCrunch.

De beslissing komt nadat Character.AI ernstige kritiek kreeg op de gevaren van onbegrensde gesprekken tussen chatbots en kwetsbare jongeren. Er gingen zelfs rechtszaken over het vermeende verband tussen dergelijke diensten en zelfmoordgevallen.

Met Stories kiezen gebruikers twee of drie personages, bepalen ze een genre en schrijven of genereren ze een verhaal. Vanaf dat punt ontvouwt het verhaal zich als interactieve fictie, waarbij de gebruiker tijdens het spelen keuzes maakt die de loop van het verhaal beïnvloeden. Het is een vorm van “kies-je-eigen-avontuur”, maar dan met AI-personages.

Deze aanpak is duidelijk anders dan chatten: niet langer is er sprake van open, onvoorspelbare dialogen, maar van gestructureerde verhaallijnen. Voor Character.AI is dat een manier om jongeren toch toegang te geven tot creativiteit, zonder de risico’s van onbeperkte AI-gesprekken.

De stap naar Stories voor jongeren is ingegeven door zorgen over mentale gezondheid en veiligheid. Experts waarschuwden dat langdurige, onbeperkte AI-gesprekken bij jongeren tot verslaving, isolatie en emotionele afhankelijkheid konden leiden. Voor Character.AI was het duidelijk dat de “open chat” een te groot risico vormde, vooral wanneer gebruikers geen volwassen begeleiding hadden.

Het bedrijf gebruikte meerdere maatregelen om veilig gebruik mogelijk te maken: leeftijdsverificatie, limieten op chatduur, ouder-inzichten en samenwerking met externe organisaties voor geestelijke gezondheid. Het verdwijnen van open chats voor minderjarigen is daarmee het laatste, ingrijpendste besluit.

Voor tieners betekent dit dat ze hun AI-personages nog steeds kunnen gebruiken, maar op een andere manier. Waar vroeger gesprekken en interactie met karakters mogelijk was, is vanaf nu alleen nog interactieve fictie beschikbaar. Gebruikers kunnen verhalen schrijven, keuzes maken en ervaringen delen, maar ze kunnen niet meer “gewoon praten” met een AI-karakter.

De reacties zijn gemengd. Sommige jongeren lijken begrip te hebben voor de stap en realiseren zich dat het soms te veel werd; anderen missen de vrijheid om met de AI te praten, vooral als ze daar emotionele steun of gezelschap in vonden.

Met de introductie van Stories zet Character.AI een voorbeeld voor de industrie. Het laat zien dat bedrijven erkennen dat onbeperkt AI-contact met jongeren niet zonder gevaren is, en dat alternatieven mogelijk zijn. Of andere AI-diensten hetzelfde pad zullen volgen, is nog onduidelijk.

Voor jongeren verandert het gebruik: de focus schuift van chat en emotionele interactie naar creatie en fictie. Het kan een stap zijn naar een veiliger omgang met AI — vooral in kwetsbare leeftijdsgroepen. Maar het roept ook vragen op over wat jongeren missen: de mogelijkheid om op elk moment “gewoon te praten”.