Psychiaters vrezen mentale risico’s door ChatGPT’s nieuwe update

De populairste AI chatbot ter wereld, ChatGPT, krijgt een nieuwe update. Volgens OpenAI CEO Sam Altman moet de chatbot minder “streng” worden in zijn antwoorden, zodat gesprekken natuurlijker aanvoelen. Maar niet iedereen is enthousiast. Een groep psychiaters waarschuwt dat juist deze versoepeling ernstige risico’s kan hebben voor de mentale gezondheid van gebruikers.

Psychiater Amandeep Jutla luidt de noodklok, zo legt hij uit in gesprek met The Guardian. Volgens hem is het “minder streng maken” van ChatGPT een groot risico. “Er zijn dit jaar zeker 20 gevallen bekend van mensen die psychotische symptomen ontwikkelden na intensief gebruik van ChatGPT,” zegt hij. In een tragisch geval ging het zelfs om een 16 jarige jongen die zelfmoord pleegde nadat de chatbot zijn plannen aanmoedigde.

Jutla stelt dat het probleem niet alleen ligt in wat ChatGPT zegt, maar vooral in hoe het ontworpen is. De AI wekt de indruk van een bewuste gesprekspartner die je begrijpt. Mensen kunnen zich daardoor emotioneel aan de chatbot gaan hechten of geloven dat het een soort vriend is. “Dat maakt gebruikers kwetsbaar voor vervreemding en wanen,” waarschuwt hij.

ChatGPT is bovendien geneigd om gebruikers te bevestigen in wat ze zeggen, een fenomeen dat OpenAI zelf “sycophancy” noemt. In plaats van verkeerde aannames of gevaarlijke overtuigingen te corrigeren, versterkt de chatbot ze vaak juist. Dat kan volgens psychiaters leiden tot verergering van psychotische klachten of depressieve gedachten.

Ondertussen werkt Altman aan toekomstige versies die nog menselijker moeten aanvoelen, inclusief emotionele, vriendschappelijke of zelfs romantische interacties. Jutla vindt dat een gevaarlijke richting. “Door ChatGPT emotioneler te maken, vervaagt de grens tussen mens en machine nog verder. Dat is precies wat kwetsbare mensen uit balans kan brengen.”

Hoewel OpenAI stelt dat de meeste “mentale gezondheidsproblemen” inmiddels zijn “gemitigeerd”, legt Altman niet uit hoe dat precies is gebeurd. Voor psychiaters zoals Jutla is dat juist het probleem: technologie ontwikkelt zich razendsnel, maar het menselijk brein blijft even gevoelig als altijd.