Fontys-docent onder vuur om AI-tool die studentgegevens met ChatGPT deelt

Een docent van Fontys heeft een zelfontwikkelde AI-tool ingezet waarbij mogelijk persoonlijke gegevens van studenten zijn gedeeld met OpenAI, het Amerikaanse bedrijf achter ChatGPT. Dat blijkt uit openbare berichten en latere verklaringen van de docent zelf. Het gebruik van dergelijke data is in strijd met de Algemene Verordening Gegevensbescherming (AVG).

De docent, werkzaam bij de opleiding ICT en Software Engineering, ontwikkelde een tool om studentenportfolio’s automatisch te analyseren en doorzoekbaar te maken. In deze portfolio’s beschrijven studenten hun voortgang, leerdoelen en reflecties, vaak met persoonlijke en gevoelige informatie. Via LinkedIn moedigde de docent collega’s aan om de tool te testen en stelde hij dat deze ‘in de praktijk met echte portfolio’s’ werd gebruikt.

Aanvankelijk werd gesuggereerd dat de AI-tool volledig lokaal draaide. Later bleek echter dat de analyse plaatsvond via de servers van OpenAI. Op een persoonlijke ontwikkelpagina erkende de docent dat expliciet en noemde hij dit zelf “een probleem voor de privacy”. Daarmee is het aannemelijk dat studentinformatie, al dan niet tijdelijk, is verwerkt door een externe partij buiten de EU.

Volgens privacywetgeving is dat niet toegestaan zonder expliciete grondslag en duidelijke afspraken over dataverwerking. Het gebruik van Amerikaanse AI-diensten voor onderwijsdata ligt al langer onder een vergrootglas vanwege onzekerheid over opslag, hergebruik en doorgifte van gegevens.

Professor Johan Jeuring, verbonden aan de Universiteit Utrecht en leidinggevend bij het Nationaal Onderwijslab AI, reageert scherp. “Voor deze toepassing OpenAI gebruiken mag niet. De AVG verbiedt dit,” stelt hij. Volgens Jeuring zijn portfolio’s per definitie persoonlijke documenten en is het onduidelijk wat een externe partij met die data kan doen, nu of in de toekomst. “Je kunt OpenAI simpelweg niet vertrouwen voor dit soort toepassingen.”

Hij benadrukt dat experimenteren met AI in het onderwijs mogelijk is, maar uitsluitend binnen wettelijke en ethische kaders. “Zo’n tool moet lokaal draaien, zonder koppeling met commerciële AI-platforms.”

In een reactie aan Omroep Brabant ontkende de docent aanvankelijk dat er studentdata was geüpload. Later nuanceerde hij dat en stelde hij dat uitsluitend zijn eigen portfolio’s zijn gebruikt, omdat hij zelf ook student is. Ook gaf hij aan dat OpenAI inmiddels niet meer standaard is gebruikt, al bleef die optie aanvankelijk wel beschikbaar. Pas uren later verscheen een update waarin de koppeling is aangepast.

Fontys laat weten dat experimenteren met AI binnen de instelling aanmoediging krijgt, maar dat het uploaden van studentgegevens naar OpenAI nadrukkelijk niet is toegestaan. Volgens de hogeschool zijn er geen echte studentgegevens gebruikt, maar uitsluitend een testportfolio zonder persoonsgegevens. Dat baseert de instelling op de verklaring van de docent zelf. Controle achteraf is volgens Fontys niet mogelijk.

Opvallend is dat een technisch medewerker van de hogeschool publiekelijk stelde dat de risico’s rond OpenAI vaak worden overdreven. Daarbij is verwezen naar verklaringen van OpenAI dat data slechts tijdelijk is opgeslagen. Privacy-experts wijzen er echter op dat zulke claims niet afdoende zijn onder de AVG en geen vervanging vormen voor formele verwerkersovereenkomsten en toezicht.

De kwestie onderstreept opnieuw de spanningen tussen snelle AI-innovatie in het onderwijs en de strikte Europese privacywetgeving en laat zien hoe dun de scheidslijn is tussen experimenteren en overtreding.