EU-wet dwingt onderwijsinstellingen tot streng AI-beleid: “Regels zijn geen luxe meer''

De Europese AI-wetgeving, beter bekend als de AI Act, stelt vanaf dit jaar nieuwe eisen aan hoe scholen, hogescholen en universiteiten omgaan met kunstmatige intelligentie. Wat eerst vrijblijvend experimenteren was, wordt nu juridisch gebonden beleid. En dat vraagt om actie, ook in het onderwijs.

De nieuwe wet verdeelt AI-systemen in vier risicocategorieën. Hoe hoger het risico voor mensen of de samenleving als geheel, hoe strenger de regels waar de organisatie mee te maken krijgt. Vooral in het onderwijs vallen systemen zoals adaptieve leerplatforms en automatische beoordelingssoftware onder de groep die is benoemd tot  ‘hoog risico’. Denk bijvoorbeeld aan software die invloed heeft op toetsresultaten, schooladvies of leerroute. Ook software van Meta, Google en OpenAI valt onder de categorie 'hoog risico'.Voor zulke systemen moeten scholen voortaan zorgen voor menselijk toezicht, transparantie over de werking en risicoanalyses.

Volgens advocaten Sharinne Ibrahim en Caspar Bottemanne van Boels Zanders zijn onderwijsinstellingen vaak nog niet voorbereid op de nieuwe wet. “AI wordt breed gebruikt, maar zelden is vastgelegd wat mag, wat niet mag en wie verantwoordelijk is,” stellen zij in een artikel op Zakenblad.

De eerste stap is het in kaart brengen van alle AI-toepassingen binnen de instelling. Vervolgens moet per toepassing bekeken worden welk risico eraan verbonden is. Daarop volgt beleidsvorming: wie mag wat gebruiken, en onder welke voorwaarden?

Ook het opleiden van personeel en studenten speelt een grote rol. De AI Act vereist namelijk dat gebruikers van AI-systemen voldoende ‘AI-geletterd’ zijn. Dit betekent niet alleen technische vaardigheden, maar ook inzicht in privacy en de risico’s van algoritmes.

Tot slot vraagt de AI Act om meer openheid. Instellingen moeten kunnen uitleggen welke systemen worden gebruikt, waarom, en hoe ze controle houden. Bij misbruik of foutieve uitkomsten moet menselijk ingrijpen altijd mogelijk blijven. De boodschap is duidelijk: AI op school mag, maar alléén als je het goed regelt.