Privacytoezichthouder slaat alarm over AI: “Code rood, actie noodzakelijk”

De Autoriteit Persoonsgegevens (AP) luidt de noodklok over de ontwikkeling van kunstmatige intelligentie in Nederland. In de nieuwste AI-impactbarometer concludeert de privacytoezichthouder dat de situatie inmiddels “code rood” is: de inzet van algoritmes en AI groeit snel, terwijl toezicht, registratie en duidelijke regels achterblijven.

Volgens de toezichthouder dreigt daardoor een situatie waarin technologie sneller wordt ingevoerd dan de samenleving kan controleren.

De belangrijkste zorg van de AP is dat veel organisaties onvoldoende inzicht hebben in hoe AI-systemen zijn in te zetten. Zowel bij overheden als in het bedrijfsleven ontbreekt vaak een goed overzicht van algoritmes die beslissingen beïnvloeden.

Dat gebrek aan transparantie kan grote gevolgen hebben. Wanneer systemen fouten maken of discrimineren, is het vaak lastig om te achterhalen hoe dat precies gebeurt. Volgens de toezichthouder vergroot dit de kans op nieuwe incidenten vergelijkbaar met eerdere algoritmeschandalen.

“Vijf jaar na het toeslagenschandaal zijn de lessen duidelijk, maar de opvolging blijft achter”, waarschuwt AP-voorzitter Aleid Wolfsen.

De AP benadrukt dat organisaties incidenten rond AI nog te weinig gebruiken om te leren en processen te verbeteren.

De snelle ontwikkeling van AI-technologie maakt de situatie extra complex. Nieuwe systemen kunnen steeds autonomer functioneren en zelfstandig taken uitvoeren.

Denk bijvoorbeeld aan AI-agents die processen automatiseren of beslissingen voorbereiden. Zulke systemen kunnen efficiënt zijn, maar vergroten ook de risico’s rond privacy, discriminatie en controle.

Daarbij speelt ook een tweede probleem: sommige organisaties classificeren hun AI-systemen als “laag risico”, waardoor strengere regels mogelijk worden omzeild.

De AP roept het kabinet op om sneller werk te maken van de Europese AI-verordening. Die wet moet duidelijke regels geven voor de ontwikkeling en inzet van AI-systemen in Europa.

Concreet vraagt de toezichthouder om:

Volgens de AP is dat noodzakelijk om te voorkomen dat AI-innovatie leidt tot nieuwe schandalen rond discriminatie of privacy.

De toezichthouder benadrukt dat AI enorme kansen biedt voor economie en samenleving. Tegelijkertijd moet de technologie volgens de AP worden ingezet met respect voor fundamentele rechten.

Alleen met duidelijke regels, transparantie en effectief toezicht kan AI volgens de privacywaakhond veilig worden geïntegreerd in overheid en bedrijfsleven.