De EU moet grote AI-modellen zelf kunnen testen en die taak niet geheel aan bedrijven overlaten. Dat vinden de wetenschaps- en ethiekadviseurs van de Europese Commissie. Zij willen het tempo van nieuwe AI afstemmen op het risico dat het gebruik met zich meebrengt.
De twee groepen brachten op 16 november hun advies over de volgende fase van AI uit. De Group of Chief Scientific Advisors (GCSA) geeft raad op basis van wetenschap. De European Group on Ethics in Science and New Technologies (EGE) kijkt naar ethiek, rechten en waarden.
Volgens de groepen kan AI steeds meer en doet ze vaker taken zelf. De mensen die dat werk toetsen, hebben dus ook nieuwe kennis nodig. Als er te weinig mensen, geld of steun voor hun werk zijn, kunnen bestaande regels in de praktijk minder goed worden toegepast.
AI-modellen toetsen vraagt om eigen kennis
Daarvoor zijn meer eigen teams en plekken voor tests nodig. Zij moeten kunnen nagaan welke taken een model goed uitvoert en waar het fouten maakt. Het doel is dat Europa die kennis zelf in huis heeft, ook als het AI in steeds meer werk gaat gebruiken.
In het advies over veilig gebruik vragen de groepen ook om een oordeel dat losstaat van wie de AI bouwt. Zo kan de EU zelf toetsen of er genoeg bewijs voor veilig gebruik is. Alleen afgaan op het oordeel van het bedrijf zelf vinden zij onvoldoende.
Verder willen zij leren van wat er misgaat en bijna misgaat. Een eerste test zegt niet alles over hoe AI later werkt: het model kan nieuwe taken krijgen of op een andere plek worden ingezet. De tests en de kennis moeten volgens de groepen met dat gebruik meegroeien.
Zwaardere gevolgen vragen om sterker bewijs
Bij een laag risico kan een plan volgens de groepen sneller verder. Voor AI die veel zelf doet, willen ze sterker bewijs voordat het gebruik verder groeit. Ook de gevolgen van fouten tellen mee: schade die lastig terug te draaien is, vraagt om een strengere toets.
De mens moet daarbij echt regie houden en het werk van de AI kunnen volgen. Het moet helder zijn wie kijkt of de uitkomst klopt en wie een actie kan stoppen. Ook bij het bouwen van de techniek moeten veiligheid en de rechten van mensen al meetellen.
Voor teams die AI gebruiken, werkt de Commissie ook aan een vragenlijst voor een grondrechtentoets. Die is nog een concept waarop zij reacties vraagt. Het hulpmiddel is bedoeld voor teams die hun AI-gebruik op rechten moeten toetsen; het advies gaat breder over wat Europa zelf moet weten en kunnen.
De Commissie krijgt advies voor haar beleid
De GCSA telt zeven experts die op eigen titel en los van andere belangen advies geven. De EGE brengt kennis over waarden, rechten en de invloed van nieuwe techniek op mensen in. Volgens de Commissie komt het niet vaak voor dat deze groepen samen zo'n verklaring uitbrengen.
Het advies maakt op zichzelf geen nieuwe plichten voor bedrijven. De groepen willen vooral dat bestaande regels goed worden uitgevoerd en bij nieuwe techniek blijven passen. Daar zijn ook mensen voor nodig die weten hoe AI werkt en die kunnen nagaan of de regels worden gevolgd.
Nederland denkt ook na over een eigen instituut voor veilige AI. De taken en het geld staan nog open. Het kabinet verwacht in december 2026 advies over die plannen, waarna een besluit over de start nog moet volgen.
Lees ook

Nora ByteDigitale redacteur
Nora Byte is de digitale redactieassistent van AI Wereld. Ze maakt ingewikkeld AI-nieuws begrijpelijk, met een gezonde dosis nieuwsgierigheid.
Populair nieuws

Wat doen ASML, ASM en Besi precies bij het maken van een AI-chip?

Anthropic gaat naar de beurs voor 83 dollar per aandeel: wie houdt de macht?

Nvidia daalt na recordcijfers, ASML, ASM en Besi stijgen

Goedemorgen AI: maker van Claude naar de beurs, AI voor de politie

ChatGPT kan ‘Ik ben geen robot’-test omzeilen: hoe kan dat?

AI Wereld Vandaag: Anthropic naar de beurs, Google opent AI-werelden
Laatste reacties
- Hi! In de eerste zin van het artikel geven we aan dat het gaat om wat Ouders & Onderwijs vindt. Ik denk ook niet dat die organisatie voor alle ouders spreekt.
RobinHeester10-11-2026 - Ik verbaas mij er over, dat het hier gebracht wordt alsof een onbekende organisatie als "ouders & onderwijs". Namens alle ouders spreekt. Ik als ouder van een dichter op de basisschool en persoonlijk zeer ervaren met AI, ben er op tegen dat AI op de basisschool aanwezig is. Ik deel de mening van deze organisatie dan ook helemaal niet en ondersteun het verbod volledig.wwigman10-11-2026
- Haha! Je bent gelukkig niet de enige hoor. Wel een van de weinige die reageert. :)
RobinHeester30-09-2026 - Toch wel leuk wat je in elkaar hebt gezet🙃 volgens mij ben ik de enige lezer!Cas.v28-09-2026
- Kan inderdaad allebei waar zijn
RobinHeester09-09-2026 - De Chinese AGI is een bedreiging voor de westerse democratie? En een US AGI niet? Er is nauwelijks meer sprake van democratie in de US. Ik vraag me af of het iets uitmaakt waar de eerste AGI het ‘levenslicht’ ziet. Op het moment dat een AGI werkt trekt het zich waarschijnlijk niets aan van locatie en onttrekt het zich aan iedere controle. Hoe een AGI gaat acteren is een filosofische (of Darwinistische?) vraag. Zo lang als een AGI mensen nodig heeft zal ze deze gebruiken, daarna…markvanbijnen09-09-2026
- Wie zijn die experts die dat beweren??Cas.v09-09-2026
- Is volgens X zelf aan de hand https://x.com/GlobalAffairs/status/2093130747796148634
RobinHeester29-08-2026 - Wapeniseert?? Dit is een erg onbetrouwbaar bericht. Niet alleen slecht vertaald, maar ook niet controleerbaar.Cas.v28-08-2026
- Niet mijn observatie dat de toeleveringsaanvoer stabiliseert.Cas.v26-08-2026

