Nederlandse Autoriteit Persoonsgegevens waarschuwt bedrijven voor gebruik van AI chatbots

De Autoriteit Persoonsgegevens (AP) heeft een dringende waarschuwing afgegeven aan bedrijven over het gebruik van kunstmatige intelligentie (AI) chatbots, zoals de bekende ChatGPT van OpenAI. Er zijn namelijk meerdere gevallen geweest van privacylekken, waaronder gevoelige medische gegevens die in handen kwamen van andere bedrijven.

Sinds de publieke introductie van ChatGPT in 2022, hebben chatbots een explosieve groei meegemaakt. Het is niet voor niets, aangezien deze nieuwe technologie veel voordelen biedt. Zo kunnen ze werknemers helpen om klantvragen beter en sneller te beantwoorden, kunnen ze stukken tekst controleren op spellingsfouten, en kan het grote hoeveelheden gegevens snel en eenvoudig samenvatten. Echter, het gebruik van deze technologie brengt ook aanzienlijke risico's met zich mee op het gebied van gegevensbescherming.

Een zorgwekkend voorbeeld van een privacy inbreuk vond plaats bij een assistent van een huisarts die vertrouwelijke patiënteninformatie invoerde in een ChatGPT gebaseerd programma. De gegevens werden opgeslagen op de servers van het technologiebedrijf achter de chatbot en konden mogelijk worden gebruikt om de software verder te trainen.

AP woordvoerster Karin benadrukt het belang van vertrouwen in de bescherming van medische gegevens. "Mensen moeten erop kunnen vertrouwen dat hun medische informatie veilig is. Zodra deze informatie in een AI systeem terechtkomt, verliezen zij de controle erover," aldus Karin. Het risico dat deze gegevens onbedoeld worden gebruikt of toegankelijk worden voor onbevoegden is een serieuze zorg.

Naast medische gegevens zijn ook andere sectoren getroffen door datalekken. Bij een telecombedrijf leidde een werknemer een database met adressen in een chatbot, wat resulteerde in een aanzienlijke inbreuk op de privacy van klanten..

De AP adviseert bedrijven die AI chatbots inzetten, om duidelijke richtlijnen en afspraken te maken met hun medewerkers over het gebruik van deze technologie. Zonder dergelijke afspraken lopen bedrijven het risico op ernstige privacyschendingen.