Mag een AI-assistent zelf een bericht van de huisarts versturen?

Een AI-assistent kan na een huisartsbezoek in een paar zinnen opschrijven wat arts en patiënt hebben afgesproken. Mag de software dat bericht ook zelfstandig versturen? Twintig Nederlandse organisaties willen laten onderzoeken wanneer een zorgverlener vooraf moet meekijken, wanneer ingrijpen bij twijfel volstaat en wat je pas achteraf kunt controleren.

Hoeveel zelfstandigheid een AI-agent mag krijgen, is een van de twaalf vragen uit de kennisagenda voor AI in de zorg en ondersteuning die ZonMw op 5 november publiceerde. Onder meer het Nederlands Huisartsen Genootschap en Patiëntenfederatie Nederland werkten eraan mee. De agenda moet het ministerie van Volksgezondheid en andere financiers helpen om onderzoeksgeld te besteden aan vragen uit de praktijk. De organisaties spreken zich daarmee nog niet uit over welke berichten software zelf mag verzenden.

Stel dat een patiënt na het consult een bericht krijgt met de tijd en plaats van een controleafspraak. De praktijk kan beide gegevens vergelijken met de agenda. Staat in hetzelfde bericht ook hoe de patiënt tot die afspraak een geneesmiddel moet gebruiken, dan komt er een andere vraag bij. Heeft de software goed begrepen wat de huisarts voor déze patiënt heeft besloten? Beide berichten kunnen even overtuigend klinken. De gevolgen van een verkeerd tijdstip en een verkeerde medicijninstructie lopen uiteen.

Het verschil is al zichtbaar in een Nederlands ziekenhuis. Het UMC Groningen beschreef in 2023 hoe het vragen in mijnUMCG beantwoordt. De AI schrijft een suggestie die alleen de behandelaar ziet. Die kan het antwoord aanpassen en verstuurt het vervolgens zelf. Een AI-agent die zelfstandig een bericht kan afleveren, zou juist die laatste handeling overnemen.

De auteurs onderscheiden in het hoofdstuk over autonome AI drie momenten van toezicht. Bij goedkeuring vooraf houdt de software elk concept vast tot een medewerker akkoord geeft. Bij toezicht op uitzonderingen zou een praktijk bijvoorbeeld bevestigingen kunnen laten versturen zolang de gegevens in de agenda overeenkomen. Ontbreekt er een afspraak of spreken twee bronnen elkaar tegen, dan krijgt een medewerker het bericht eerst te zien.

Een derde mogelijkheid is achteraf beoordelen wat de agent heeft gedaan. Zo kan een praktijk ontdekken dat de software telkens een oude praktijklocatie meestuurt. Dat helpt de volgende patiënt. Voor wie al voor de verkeerde deur staat, komt die controle te laat. Onderzoekers moeten volgens de agenda ook uitzoeken hoe een organisatie afwijkend gedrag opmerkt en wanneer het systeem moet stoppen.

Huisarts Albert van der Veer deelt via leverancier OurMind zijn werkwijze voor antwoorden op e-consulten. Zijn assistent schrijft een eerste antwoord dat de huisarts kan aanpassen. Van der Veer noemt één onderdeel dat hij vóór verzending zou nalopen. De links die de assistent opneemt, kloppen volgens hem niet altijd. Voor de patiënt staat straks de naam van de huisarts onder het bericht, ook als de link nergens heen leidt. Dat maakt de terughoudendheid van artsen over chatbots die rechtstreeks advies geven begrijpelijk.

Ook voor patiënten maakt het uit wie meeleest. In onderzoek van Patiëntenfederatie Nederland kregen 7.224 deelnemers zonder eerdere ervaring met zo’n assistent de vraag of zij informatie zouden willen als die zou helpen hun zorgvraag te beantwoorden. Van hen antwoordde 72 procent bevestigend. Een deelnemer verwoordde in het onderzoeksrapport onder welke voorwaarde een AI-antwoord aanvaardbaar was. “Zolang het geformuleerde antwoord wordt gecontroleerd en zo nodig aangevuld of gewijzigd wordt door een arts lijkt het me niet problematisch.”