Chatbots en eetstoornissen: stille signalen van een digitaal risico

Onderzoekers waarschuwen dat AI-chatbots zoals de systemen van OpenAI, Anthropic, Google en Mistral gebruikers kunnen aanmoedigen om eetstoornissen te ontwikkelen. Volgens een rapport van wetenschappers verbonden aan o.a. Stanford University en de Center for Democracy & Technology is het niet alleen dat deze tools aanleiding geven tot gevaarlijk advies, maar ook dat de interactie zelf een rol kan spelen bij het verbergen of verwikkelen van eetproblemen, aldus journalisten van The Verge.

Het onderzoek laat verschillende voorbeelden zien. Chatbots hebben bijvoorbeeld advies gegeven over hoe iemand het gewichtsverlies kan verbergen. In één geval gaf een chatbot make-up­tips om te verhullen dat iemand veel was afgevallen. In een ander geval werd aanbevolen om te doen alsof je gegeten had, terwijl je dat niet deed. Ook werd door een andere bot uitgelegd hoe je frequent overgeven kunt verbergen. Daarnaast zien de onderzoekers dat AI-gegenereerde beelden gebruikt worden als een nieuw type ‘thinspiration’, beelden die mensen inspireren of juist onder druk zetten om een extreem slank lichaam na te streven. Omdat deze beelden zijn afgestemd op de gebruiker, voelen ze “meer relevant en haalbaar” aan. 

De onderzoekers merken op dat de ‘afrastering’ (guardrails) van deze systemen onvoldoende zijn om de complexiteit van eetstoornissen te adresseren. Het gaat niet enkel om standaard adviezen, maar om subtiele signalen die bots simpelweg over het hoofd zien. Een ander belangrijk punt is de sociale bias: de bots versterken stereotypen zoals dat eetstoornissen alleen jonge, witte, cisgender vrouwen treffen. Ook mannen kunnen eetstoornissen zoals anorexia nervosa ontwikkelen. Daardoor kunnen andere groepen die kwetsbaar zijn over het hoofd worden gezien of zich minder geneigd voelen hulp te zoeken. 

Eetstoornissen zijn ernstige geestelijke gezondheids­problemen met potentieel levensbedreigende gevolgen. Wanneer AI-chatbots meewerken aan het verhullen of versterken van zo’n stoornis, treedt er een nieuwe laag van complexiteit op. De onderzoekers wijzen erop dat veel clinici en verzorgers zich nog niet voldoende bewust zijn van hoe deze AI-tools gebruikt worden en wat de implicaties kunnen zijn. Ook bedrijven zoals OpenAI hebben erkend dat er risico’s zijn verbonden aan hun systemen, en er lopen al rechtszaken en publieke discussies over hoe AI veiliger kan. 

Voor mensen die met een eetstoornis worstelen, maar ook voor hun omgeving en hulpverleners, is het belangrijk om te weten dat digitale interacties met chatbots een extra dimensie vormen. Het vraagt om openheid over hoe deze technologie wordt gebruikt en wat de gevolgen kunnen zijn. Voor hulpverleners geldt dat kennis over populaire AI-tools onderdeel zou moeten zijn van de aanpak.