Internationale richtlijn moet gebruik AI in zorg veiliger maken

Op 24 maart 2025 hebben internationale experts, onder leiding van het UMC Utrecht, een richtlijn en bijbehorende checklist gepubliceerd in het British Medical Journal (BMJ) om het gebruik van kunstmatige intelligentie (AI) in de zorg veiliger en effectiever te maken. Deze richtlijn biedt een gestructureerde aanpak om de betrouwbaarheid, eerlijkheid, duurzaamheid en toepasbaarheid van AI-algoritmes te beoordelen.

Een internationale groep deskundigen heeft een richtlijn ontwikkeld die zorgprofessionals helpt bij het evalueren van AI-algoritmes. De richtlijn bevat een checklist met vragen die inzicht geven in het risico op bias van een algoritme. Bias in AI kan leiden tot onjuiste of oneerlijke beslissingen, vooral als de trainingsdata niet representatief is.

AI wordt steeds vaker ingezet in de gezondheidszorg voor taken zoals ziekteherkenning en prognoses. Het is cruciaal dat deze systemen betrouwbaar en eerlijk zijn om de patiëntveiligheid te waarborgen. De nieuwe richtlijn biedt een gestandaardiseerde methode om AI-algoritmes te evalueren, wat kan bijdragen aan betere zorguitkomsten en het vertrouwen in AI-technologieën kan vergroten.

Hoofdonderzoeker Carl Moons benadrukt het belang van het identificeren van bias in AI-systemen. Hij wijst erop dat de checklist kan helpen bij het bepalen of een algoritme een hoog, laag of geen risico op bias heeft. Daarnaast wordt er gewerkt aan een geautomatiseerde versie van de checklist en een specifieke richtlijn voor het gebruik van taalmodellen (LLM's) in de zorg.

De implementatie van deze richtlijn kan leiden tot een meer verantwoorde en effectieve inzet van AI in de zorg. Naarmate AI-systemen complexer worden, zal het belang van dergelijke evaluatietools alleen maar toenemen.

Het is te verwachten dat andere sectoren ook vergelijkbare richtlijnen zullen ontwikkelen om de kwaliteit en betrouwbaarheid van AI-toepassingen te waarborgen.

De nieuwe internationale richtlijn biedt zorgprofessionals een waardevol instrument om de betrouwbaarheid en eerlijkheid van AI-algoritmes te beoordelen. Dit initiatief is een belangrijke stap richting een veiliger en effectiever gebruik van AI in de gezondheidszorg.