Naar inhoud springen

EU-adviseurs vragen om eigen Europese tests van krachtige AI-modellen

Nieuws
Compacte computer, gesloten dossiermap en meetapparatuur op een werkbank in warm en blauw licht.
De EU moet grote AI-modellen zelf kunnen testen en die taak niet geheel aan bedrijven overlaten. Dat vinden de wetenschaps- en ethiekadviseurs van de Europese Commissie. Zij willen het tempo van nieuwe AI afstemmen op het risico dat het gebruik met zich meebrengt.
De twee groepen brachten op 16 november hun advies over de volgende fase van AI uit. De Group of Chief Scientific Advisors (GCSA) geeft raad op basis van wetenschap. De European Group on Ethics in Science and New Technologies (EGE) kijkt naar ethiek, rechten en waarden.
Volgens de groepen kan AI steeds meer en doet ze vaker taken zelf. De mensen die dat werk toetsen, hebben dus ook nieuwe kennis nodig. Als er te weinig mensen, geld of steun voor hun werk zijn, kunnen bestaande regels in de praktijk minder goed worden toegepast.

AI-modellen toetsen vraagt om eigen kennis

Daarvoor zijn meer eigen teams en plekken voor tests nodig. Zij moeten kunnen nagaan welke taken een model goed uitvoert en waar het fouten maakt. Het doel is dat Europa die kennis zelf in huis heeft, ook als het AI in steeds meer werk gaat gebruiken.
In het advies over veilig gebruik vragen de groepen ook om een oordeel dat losstaat van wie de AI bouwt. Zo kan de EU zelf toetsen of er genoeg bewijs voor veilig gebruik is. Alleen afgaan op het oordeel van het bedrijf zelf vinden zij onvoldoende.
Verder willen zij leren van wat er misgaat en bijna misgaat. Een eerste test zegt niet alles over hoe AI later werkt: het model kan nieuwe taken krijgen of op een andere plek worden ingezet. De tests en de kennis moeten volgens de groepen met dat gebruik meegroeien.

Zwaardere gevolgen vragen om sterker bewijs

Bij een laag risico kan een plan volgens de groepen sneller verder. Voor AI die veel zelf doet, willen ze sterker bewijs voordat het gebruik verder groeit. Ook de gevolgen van fouten tellen mee: schade die lastig terug te draaien is, vraagt om een strengere toets.
De mens moet daarbij echt regie houden en het werk van de AI kunnen volgen. Het moet helder zijn wie kijkt of de uitkomst klopt en wie een actie kan stoppen. Ook bij het bouwen van de techniek moeten veiligheid en de rechten van mensen al meetellen.
Voor teams die AI gebruiken, werkt de Commissie ook aan een vragenlijst voor een grondrechtentoets. Die is nog een concept waarop zij reacties vraagt. Het hulpmiddel is bedoeld voor teams die hun AI-gebruik op rechten moeten toetsen; het advies gaat breder over wat Europa zelf moet weten en kunnen.

De Commissie krijgt advies voor haar beleid

De GCSA telt zeven experts die op eigen titel en los van andere belangen advies geven. De EGE brengt kennis over waarden, rechten en de invloed van nieuwe techniek op mensen in. Volgens de Commissie komt het niet vaak voor dat deze groepen samen zo'n verklaring uitbrengen.
Het advies maakt op zichzelf geen nieuwe plichten voor bedrijven. De groepen willen vooral dat bestaande regels goed worden uitgevoerd en bij nieuwe techniek blijven passen. Daar zijn ook mensen voor nodig die weten hoe AI werkt en die kunnen nagaan of de regels worden gevolgd.
Nederland denkt ook na over een eigen instituut voor veilige AI. De taken en het geld staan nog open. Het kabinet verwacht in december 2026 advies over die plannen, waarna een besluit over de start nog moet volgen.
loading

Populair nieuws

Laatste reacties

Loading