OpenAI stelt ‘adult mode’ voor ChatGPT opnieuw uit

OpenAI heeft de introductie van een zogenoemde “adult mode” voor ChatGPT opnieuw uitgesteld. De functie zou volwassen gebruikers meer vrijheid geven om onderwerpen zoals erotiek of expliciet volwassen materiaal te bespreken. De lancering was oorspronkelijk gepland voor december, maar is inmiddels al meerdere keren verschoven. Volgens recente berichtgeving heeft het bedrijf opnieuw besloten de release uit te stellen terwijl het nog werkt aan veiligheidsmaatregelen en leeftijdscontrole, volgens TechCrunch.

Het concept van adult mode werd eerder aangekondigd door OpenAI-topman Sam Altman. Het idee is dat volwassen gebruikers, nadat hun leeftijd is bevestigd, toegang kunnen krijgen tot gesprekken en inhoud die normaal gesproken geblokkeerd zijn in ChatGPT.

Tot nu toe hanteren veel AI-chatbots strenge regels rond seksuele inhoud. Die beperkingen zijn bedoeld om misbruik, schadelijke content en toegang door minderjarigen te voorkomen. Adult mode zou een manier zijn om een deel van die beperkingen te versoepelen voor gebruikers die aantoonbaar volwassen zijn.

Volgens eerdere plannen zou de functie deel uitmaken van een breder systeem voor leeftijdscontrole binnen ChatGPT. Pas nadat een gebruiker als volwassene is geverifieerd, zou toegang tot bepaalde gesprekken mogelijk worden.

OpenAI heeft niet uitgebreid uitgelegd waarom de lancering opnieuw wordt uitgesteld, maar het bedrijf zegt dat het nog werkt aan technische en veiligheidskwesties. De introductie van adult mode is gevoelig omdat AI-systemen moeite kunnen hebben met het correct modereren van expliciete inhoud.

Een belangrijk probleem is dat AI-systemen vaak moeilijk onderscheid maken tussen verschillende soorten context. Een gesprek over seksualiteit kan bijvoorbeeld informatief of educatief zijn, maar ook expliciet of schadelijk. Bedrijven proberen daarom systemen te bouwen die zulke verschillen beter herkennen.

Daarnaast speelt leeftijdsverificatie een rol. Platforms moeten een manier vinden om te controleren of gebruikers daadwerkelijk volwassen zijn zonder dat ze onnodig veel persoonlijke gegevens verzamelen.

Het plan voor adult mode laat zien hoe ingewikkeld contentmoderatie bij AI kan zijn. Sommige gebruikers vinden dat chatbots te streng zijn en normale gesprekken blokkeren over onderwerpen zoals relaties of seksualiteit. Anderen vrezen juist dat minder strenge regels kunnen leiden tot misbruik of schadelijke inhoud.

AI-bedrijven proberen een middenweg te vinden tussen die twee standpunten. Enerzijds willen ze systemen ontwikkelen die nuttig en flexibel zijn voor volwassen gebruikers. Anderzijds staan ze onder druk van regulators en maatschappelijke organisaties om misbruik te voorkomen.

Dat spanningsveld is al langer zichtbaar bij generatieve AI. Bedrijven zoals OpenAI hebben uitgebreide richtlijnen voor wat chatbots wel en niet mogen genereren, vooral rond geweld, misinformatie en seksuele inhoud.