Utah kiest voor eigen koers met AI wet voor mentale gezondheid

Vanaf 7 mei 2025 gaat in de Amerikaanse staat Utah een nieuwe wet (onder de naam H.B. 452) in die zich richt op het gebruik van AI in de geestelijke gezondheidszorg. Het gaat dan vooral om “mental health chatbots” die steeds vaker worden ingezet door bedrijven en apps. Waar staten als Illinois en Nevada bijna een totaalverbod instelden, kiest Utah voor een middenweg: bescherming in plaats van verbieden.

Mentale gezondheid rondom AI gebruik is flink in opspraak. Zo zijn er gevallen van zelfdoding opgetreden en is er kritiek op de AI modellen, waaronder OpenAI's ChatGPT, die te weinig levensgevaarlijke situaties proberen te mijden.

De wet schrijft voor dat bedrijven die een chatbot aanbieden duidelijke waarschuwingen en informatie moeten geven over wat hun technologie wel en niet kan. Het idee is dat gebruikers niet in de war raken en beseffen dat ze geen echte therapie krijgen van een AI. Daarnaast zijn er strikte regels voor privacy, dataverzameling en transparantie. Ook moeten bedrijven risico’s of schadelijke interacties met de chatbot actief melden.

Een belangrijk punt in de wet is dat een chatbot als “mentale gezondheids AI” wordt gezien zodra een redelijk persoon zou kunnen aannemen dat de AI therapie biedt. Daarmee wordt de verantwoordelijkheid grotendeels bij de aanbieders gelegd. Om zich te beschermen tegen claims kunnen bedrijven vooraf documentatie indienen waarin ze hun doelen, beperkingen, testmethodes en veiligheidsprotocollen uitleggen.

Critici zijn echter niet overtuigd. Volgens hen is zelfs een beschermend kader niet genoeg om kwetsbare gebruikers veilig te houden. Sommige deskundigen pleiten daarom nog steeds voor een totaalverbod op AI in de geestelijke gezondheidszorg. Toch lijkt dat lastig vol te houden, want het gebruik van dit soort technologie neemt wereldwijd snel toe.

Wat duidelijk is, is dat de wereld op weg is naar een lappendeken van regels. Elke staat en elk land kiest zijn eigen aanpak, wat zowel kansen als hoofdpijn oplevert voor AI bedrijven die internationaal actief zijn. Tegelijkertijd is het essentieel dat landen en staten met bedrijven samenwerken om goede en duidelijke wetgeving te realiseren.