Naar inhoud springen

EU vraagt reacties op grondrechtentoets voor risicovolle AI-systemen

Nieuws
Een open map met een blanco vragenlijst op tafel, met buiten de vlag van de Europese Unie.
De Europese Commissie vraagt reacties op een conceptvragenlijst waarmee bepaalde overheden en bedrijven straks hun AI-gebruik op grondrechtenrisico’s moeten beoordelen. Organisaties kunnen tot 15 januari 2027 reageren. Voor een vrijwillige praktijktest geldt een eerdere aanmelddeadline: 4 december 2026.
Het Europese AI Office ontwikkelde de conceptvragenlijst en bijbehorende toelichting met inbreng van het EU-Grondrechtenagentschap FRA. Het formulier moet organisaties helpen bij de voorbereiding van een zogeheten FRIA, een grondrechteneffectbeoordeling. De betreffende verplichting gaat volgens de Commissie gelden vanaf 2 december 2027.

Welke organisaties moeten de toets uitvoeren?

De beoordeling richt zich op het gebruik van bepaalde AI-systemen met een hoog risico. Volgens de uitleg van de Europese Commissie gaat het onder meer om overheidsorganisaties en private organisaties die publieke diensten leveren. Daarnaast vallen bepaalde systemen voor kredietwaardigheid en voor risico-inschatting of prijsstelling bij levens- en zorgverzekeringen onder de verplichting.
Artikel 27 van de AI-verordening verwijst naar specifieke categorieën hoogrisicosystemen uit de wet en zondert de categorie kritieke infrastructuur uit. Het maakt dus verschil waarvoor een organisatie AI inzet; alleen het gebruik van een chatbot zegt onvoldoende.
De Commissie legt ook uit waarom de gebruiker zelf een rol heeft. Een leverancier moet risico’s al bij het ontwikkelen van een systeem beperken. Sommige gevolgen worden echter pas zichtbaar in de omgeving waarin een organisatie de technologie toepast. Denk aan een systeem dat meeweegt bij beslissingen over een lening of toegang tot een publieke dienst.

De toets gaat over mensen en beslissingen

Een organisatie moet beschrijven in welke processen zij het systeem gebruikt, hoe vaak dat gebeurt en welke personen of groepen het raakt. Ook moet zij specifieke risico’s, menselijk toezicht en maatregelen bij problemen in kaart brengen. Daar horen interne verantwoordelijkheden en klachtenmogelijkheden bij.
De organisatie moet de beoordeling vóór het eerste gebruik uitvoeren. Als relevante omstandigheden veranderen, moet zij de informatie bijwerken. De resultaten moet zij in beginsel melden aan de bevoegde markttoezichthouder.
Voor inwoners die willen weten welke software hun gemeente gebruikt, biedt het Algoritmeregister al een aanknopingspunt. In de gids over gemeentelijke algoritmes staat hoe zij toepassingen, menselijke tussenkomst en contactgegevens kunnen opzoeken. Het register bevat ook toepassingen met vaste beslisregels: een geregistreerd algoritme is niet automatisch een hoogrisico-AI-systeem.

Nederlandse voorbereiding is al begonnen

De Autoriteit Persoonsgegevens riep organisaties eerder op ervaring op te doen met de beoordeling. AI Wereld schreef in augustus over de Nederlandse pilot met de grondrechtentoets. De aanmeldtermijn voor die proef verstreek op 21 september; de nieuwe Europese oproep is een afzonderlijk traject.
Een FRIA kijkt bovendien verder dan de privacyrisico’s bij het verwerken van persoonsgegevens. Heeft een organisatie al een privacybeoordeling, de DPIA, uitgevoerd, dan mag zij relevante onderdelen overnemen of ernaar verwijzen. Dat kan voor zover die onderdelen ook de betreffende verplichtingen van de grondrechtentoets afdekken. De overige grondrechtenrisico’s moet zij aanvullend beoordelen.

Reageren of zelf testen

Belanghebbenden kunnen feedback geven op het ontwerp. Organisaties die onder de toekomstige verplichting vallen, kunnen daarnaast belangstelling tonen om de vragenlijst op een eigen systeem te testen. Deelname is vrijwillig; het AI Office begeleidt deelnemers en kan bij veel belangstelling een selectie maken.
Na vaststelling wil de Commissie de vragenlijst ook als geautomatiseerd hulpmiddel aanbieden. Dat hulpmiddel is nu nog een aangekondigde vervolgstap.
loading

Populair nieuws

Laatste reacties

Loading