Mensenrechtenwaakhond waarschuwt voor groot jaarlijks tekort bij AI-toezicht

Het College voor de Rechten van de Mens verwacht vanaf 2028 jaarlijks €1,25 miljoen tekort te komen voor zijn toezicht op AI. Het instituut waarschuwt dat het daardoor minder onderzoek kan doen naar mogelijke schendingen van grondrechten.

De Tweede Kamer bespreekt maandag 9 november de digitale onderdelen van de begrotingen voor 2027. Het College vraagt Kamerleden de financiering van zijn nieuwe toezichtstaak daarbij aan de orde te stellen.

In een brief aan de commissie Digitale Zaken noemt het College voor 2027 een tekort van €400.000, ongeveer een derde van de benodigde middelen. Voor 2028 tot en met 2031 verwacht het minder dan de helft te krijgen van wat het noodzakelijk acht. Het jaarlijkse tekort bedraagt dan volgens de brief €1,25 miljoen.

Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties heeft het College volgens de brief in ambtelijk overleg op budgettaire beperkingen gewezen. Het tekort is berekend ten opzichte van de middelen die het College zelf nodig acht voor de nieuwe taak.

Het College noemt in zijn waarschuwing over het geldtekort concrete situaties waarin AI de rechten van mensen kan raken. Een werkgever kan AI gebruiken om sollicitanten te selecteren of in categorieën te verdelen. In het speciaal onderwijs kan een systeem helpen bepalen welke ondersteuning een kind nodig heeft.

Bij zulke toepassingen gaat het bijvoorbeeld om gelijke behandeling en toegang tot onderwijs voor mensen met een beperking. Het College verwacht met het voorziene budget minder systemen te kunnen onderzoeken, minder signalen op te volgen en minder kennis over nieuwe technologie op te bouwen.

Daardoor kunnen grondrechtenschendingen volgens het instituut langer onopgemerkt blijven. Het waarschuwt ook voor de kosten van latere hersteloperaties bij bedrijven.

De overheid heeft het College in november 2024 aangewezen als grondrechtenautoriteit onder de AI-verordening. Het vervult die rol als nationaal mensenrechteninstituut en gelijkebehandelingsorgaan. Ook de Autoriteit Persoonsgegevens en verschillende rechterlijke instanties kregen een grondrechtenrol, gericht op gegevensbescherming.

Volgens artikel 77 van de AI-verordening kunnen grondrechtenautoriteiten via de betrokken markttoezichthouder relevante informatie over een AI-systeem verkrijgen. Als documenten onvoldoende duidelijkheid geven over een mogelijke grondrechtenschending, kunnen zij gemotiveerd om technische tests van een hoogrisicosysteem vragen. De markttoezichthouder organiseert die tests met nauwe betrokkenheid van de verzoekende autoriteit.

Het kabinet stelde in april een toezichtstelsel met meerdere bestaande instanties voor. Daarin houden toezichthouders binnen hun eigen sector toezicht en krijgen de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur een coördinerende rol. De waarschuwing van het College gaat dus over een specifiek onderdeel van een breder stelsel.

Organisaties die AI inzetten, hebben daarnaast eigen verantwoordelijkheden. De AI-verordening voorziet voor bepaalde gebruikers en hoogrisicosystemen in een voorafgaande beoordeling van de gevolgen voor grondrechten. AI Wereld legde eerder uit hoe die grondrechtentoets werkt. Zo’n beoordeling door de gebruiker en onderzoek door een toezichthouder hebben verschillende functies.

Het kabinet wil volgens de nieuwe Nederlandse AI-koers dat bedrijven en overheden de technologie sneller toepassen. In de toelichting op die visie belooft het tegelijk de grondrechten van mensen te beschermen. Ook wil het organisaties helpen om de Europese regels in de praktijk toe te passen.

Het College vraagt de Kamer om de financiering van AI-innovatie beter te laten aansluiten op de middelen voor toezicht. Daarbij blijft een concrete vraag open: welke onderzoeken en signalen kan het instituut met het voorziene budget nog behandelen?

Het wetgevingsoverleg staat op de agenda van de commissie Digitale Zaken voor maandag 9 november van 10.00 tot 18.00 uur, Nederlandse tijd. De commissie bespreekt dan de digitale onderdelen van de begrotingen van Economische Zaken en Klimaat, Binnenlandse Zaken en Justitie en Veiligheid.