Nederland wil mogelijke voorspellende opsporings-AI verbieden

donderdag, 03 april 2025 om 19:49

Nederland zet een historische stap: een verbod op voorspellende opsporings-AI is in de maak. De Autoriteit Persoonsgegevens (AP) sloot op 3 april een consultatieronde af over het zogeheten verbod D uit de nieuwe EU AI Act. Dit verbod richt zich op AI-systemen die volledig autonoom inschatten of iemand een misdrijf zal plegen op basis van persoonskenmerken of profilering.

Deze ontwikkeling betekent een koerswijziging in hoe Nederland met AI in de opsporing omgaat. Het doel: burgers beschermen tegen discriminatie, misbruik en inbreuken op hun privacy.

Wat houdt het verbod op voorspellende AI precies in?

Volgens de EU AI Act vallen voorspellende opsporingssystemen die risicotaxaties maken op basis van persoonlijke data onder de categorie “onaanvaardbaar risico”. Nederland wil deze regel strikt gaan toepassen.

Het verbod is niet totaal: AI mag nog ondersteunen bij risicoanalyses, mits:

Het gebaseerd is op objectieve feiten;
Menselijke beoordeling altijd leidend blijft;
Profilering of gedragsvoorspellingen geen rol spelen.

De consultatie van de AP vroeg input over hoe het verbod moet worden uitgelegd, gehandhaafd en wat bijvoorbeeld precies wordt verstaan onder “persoonlijkheidskenmerken”.

Waarom deze maatregel nú nodig is

Nederland was eerder al kritisch over etnisch profileren. Denk aan de toeslagenaffaire, waar algoritmes mede zorgden voor massale en discriminerende fouten. Een autonoom AI-systeem dat criminaliteit voorspelt, dreigt dezelfde fouten te herhalen – maar dan onder het mom van innovatie.

Deze maatregel:

Beschermt burgers tegen willekeurige en onterechte verdenkingen;
Geeft politie en justitie duidelijkheid over de grenzen van AI-gebruik;
Dwingt ontwikkelaars van surveillance- en veiligheidssoftware tot zorgvuldige aanpassingen.

Volgens Digital Policy Alert stelt de AP dat AI-systemen vaak niet objectief genoeg zijn om strafbaar gedrag te voorspellen. Zeker als ze gebruikmaken van sociale of demografische profielen.

Gevolgen voor bedrijven, overheid en burgers

Voor bedrijven betekent dit verbod dat AI-producten niet meer blind mogen voorspellen wie “verdacht” is. Vooral startups in AI-beveiliging zullen moeten overschakelen op ondersteunende tools, zoals crime maps of patroonanalyse op basis van historische data.

Voor de overheid is dit een signaal dat veiligheid niet boven mensenrechten mag staan. Het verbod past binnen de bredere visie van de EU op ethisch verantwoorde AI.

Voor burgers betekent dit bescherming. Je komt niet zomaar meer in een ‘verdachtenbak’ terecht omdat een algoritme dat zegt. Daarmee wordt AI-bias actief bestreden.

Lees ook: AI in de opsporing: kansen en risico’s (AIWereld.nl)

Internationale vergelijking: Nederland loopt voorop

In de VS en het VK worden al langer AI-systemen ingezet voor predictive policing. Maar die staan onder zware kritiek:

In de VS voorspellen algoritmes vaker misdaad in arme of gekleurde wijken, wat leidt tot structurele overpolicing.
In het VK waarschuwde het Alan Turing Institute dat de politie niet in staat is om AI-systemen adequaat te controleren.

Nederland kiest, samen met de EU, voor een streng en transparant kader. Dat maakt ons tot voorlopers in het ethisch gebruik van AI binnen de opsporing.

Lees ook

AI en Privacy in 2025: Hoe veilig zijn AI-tools zoals ChatGPT en Gemini?

Schokkende stijging in gebruik van 'uitkleed-apps' treft Nederlandse vrouwen

AI mag geen nieuw “Minority Report” worden

Het uitgangspunt van de EU AI Act is helder: het voorspellen van misdaad op basis van wie je bent of waar je vandaan komt, is geen objectieve opsporing – het is digitale discriminatie.

Volgens AIWereld.nl bestaat het risico dat zonder duidelijke kaders, AI juist criminelen een stap voor blijft, terwijl de politie achter de feiten aanloopt. Maar het antwoord daarop is niet méér autonomie voor AI, maar betere regulering en menselijk toezicht.

Conclusie: AI voor veiligheid, maar mét waarborgen

Nederland laat met dit voorgenomen verbod zien dat technologische innovatie niet ten koste mag gaan van mensenrechten. AI mag politie helpen, maar nooit mensen stigmatiseren. Dat evenwicht is nu vastgelegd in regelgeving – en daarmee wordt een duidelijk signaal afgegeven: veiligheid begint bij rechtvaardigheid.