Felienne Hermans over AI: ‘Je kan het op iedere leeftijd aan je voorbij laten gaan’

Je hoeft een chatbot niet te gebruiken om iets van AI te begrijpen, vindt Felienne Hermans. De hoogleraar informaticaonderwijs wil dat leerlingen, leraren en werknemers zelf kunnen kiezen wat ze aan technologie uitbesteden. “Ook zonder AI te proberen kan ik er prima over leren, over lesgeven, over oordelen.”

Toen Hermans voor een vak over AI aan studenten vroeg om een taalmodel te proberen, vertelde een van hen dat hij dat uit overtuiging nog nooit had gedaan. Haar reactie was meteen: “Als je het niet wil, lossen we het anders op.”

De student besloot de toepassing uiteindelijk toch te proberen. “Hij wilde het uiteindelijk wel proberen om de les mee te volgen, maar dat was echt zijn eigen keus.”

Die keuzevrijheid loopt als een rode draad door haar antwoorden in dit schriftelijke interview met AIWereld.nl. Hermans is hoogleraar didactiek van de informatica aan de Vrije Universiteit Amsterdam en ontwikkelde Hedy, een programmeertaal die kinderen helpt leren programmeren. In haar werk onderzoekt ze hoe mensen technologie leren begrijpen.

AI weigeren vergelijkt ze met besluiten geen vlees te eten. Als iemand daar vanuit een overtuiging voor kiest, accepteren we dat ook, redeneert ze. Waarom zou je het gebruik van een taalmodel dan wel verplicht stellen?

Toen ChatGPT verscheen, zag Hermans snel wat de chatbot voor haar onderwijs zou betekenen. Leerlingen konden teksten inleveren die overtuigend genoeg waren om als goed werk door te gaan. Ook voor haar zou het lastig worden om te herkennen waar AI aan te pas was gekomen.

Haar eerste reactie: “Dat wordt minder huiswerk opgeven, haha.”

In haar lessen probeert ze de situatie te voorkomen waarin ze achteraf moet uitzoeken wie een opdracht heeft gemaakt. Ze geeft weinig huiswerk en laat leerlingen bijvoorbeeld op papier werken. Bij de inzet van AI op school weegt voor haar de relatie met de leerling zwaar.

“Ik wil namelijk in een vertrouwensrelatie met een leerling of student werken”, schrijft ze. Ze wil voorkomen dat goed ingeleverd werk meteen argwaan oproept. “Want wat als het niet zo is?”

Hermans vraagt zich af wat een onterechte verdenking doet met het zelfbeeld van een leerling, en met diens beeld van de docent.

Een veelgehoorde uitspraak over AI waar Hermans zich tegen verzet, is dat het steeds beter wordt. “Dat is totaal het verkeerde frame, want er zijn zoveel vragen waar chat nooit antwoord op kan geven.”

Ze doelt op vragen waarbij verschillende perspectieven, historische omstandigheden en morele oordelen een rol spelen. Als voorbeeld noemt ze de vraag wie verantwoordelijk is voor de val van Srebrenica. Een chatbot kan daarop een overzichtelijk lijstje geven, maar zo’n lijst doet volgens haar onvoldoende recht aan de complexiteit van de geschiedenis.

Ook bij de keuze voor AI in de klas kijkt ze verder dan de kwaliteit van een antwoord. Hermans wil meewegen aan wie een school geld en invloed geeft. Over taalmodellen van Amerikaanse techbedrijven is ze uitgesproken: “Want ik vind het te gevaarlijk om nog meer geld en macht te geven aan die groep mensen die letterlijk achter Trump stond toen hij weer aan de macht kwam.”

Een beperktere toepassing kan ze zich wel voorstellen, zoals een model dat antwoorden van leerlingen groepeert. Toch wil ze ook daarbij afwegen wat het systeem met het onderwijs doet.

“Met overtuiging zou ik het niet doen denk ik, want er zijn altijd afwegingen, bijvoorbeeld over wat dat met de relatie met de klas doet.”

Met een taalmodel kunnen mensen proberen een app of een spel te bouwen zonder zelf veel programmeerkennis te hebben. Voor iemand die technologie toegankelijker wil maken, lijkt dat een aantrekkelijke ontwikkeling. Hermans hoopt ook dat meer mensen daardoor zelf iets kunnen maken.

“Ik hoop echt dat het democratiserend werkt”, zegt ze. Ze betwijfelt alleen of gebruikers daarmee ook meer zeggenschap krijgen over de technologie waarop ze vertrouwen.

“Ik twijfel eraan, want je maakt jezelf enorm afhankelijk van dure technologie, duur in je portemonnee, maar ook voor de planeet.”

Ze vreest een situatie waarin mensen hun werk steeds meer op AI baseren, terwijl de toegang tot die systemen duurder wordt. Wat aanvankelijk vrijheid oplevert, kan gebruikers volgens haar kwetsbaar maken voor de prijzen en voorwaarden van aanbieders.

Daarnaast blijft kennis over beveiliging volgens Hermans onmisbaar. Ook ervaren programmeurs krijgen de veiligheid van hun systemen niet altijd op orde, benadrukt ze. Dat probleem verdwijnt voor een beginner niet zodra een taalmodel de code schrijft.

Zelf gebruikt Hermans soms ook een taalmodel. “Het kan handig zijn bij het programmeren”, vertelt ze. Vooral om iets te zoeken waarvan je ongeveer weet wat je nodig hebt, ziet ze nut. Ze gebruikt daarvoor naar eigen zeggen uitsluitend opensourcemodellen.

Ook de manier waarop chatbots zich presenteren, houdt Hermans bezig. Op de vraag wanneer een vriendelijke chatbot misleidend wordt, verwijst ze naar haar column over AI die zichzelf als een ‘ik’ presenteert.

Daarin pleit ze voor een verbod op taalmodellen die zich op die manier voorstellen. Het probleem zit volgens haar in de menselijke eigenschappen die gebruikers daardoor aan een computer kunnen toeschrijven. Naast het controleren van de antwoorden moeten zij zichzelf er steeds aan herinneren dat ze met een systeem te maken hebben.

Die persoonlijke vorm is volgens Hermans een ontwerpkeuze. Ontwikkelaars kunnen een systeem ook zo maken dat het duidelijker verwijst naar de informatie die het verzamelt, in plaats van te spreken alsof het een persoon is.

Daarmee komt ze bij het onderwerp dat volgens haar te weinig aandacht krijgt in het debat over AI: “De macht van de mensen achter de technologie, en dan niet alleen de techbazen maar ook de programmeurs.”

Dat is ook het onderwerp van haar boek Vierkante ogen, waarin ze onderzoekt hoe de denkwereld van softwaremakers doorwerkt in de systemen die anderen gebruiken.

En mensen die vijftig of zestig zijn? Moeten ze zich nog volop in AI verdiepen, ook als ze richting pensioen gaan of al gestopt zijn met werken?

Hermans ziet geen reden om hen die verplichting op te leggen. “Je kan het op iedere leeftijd aan je voorbij laten gaan. Lekker doen als je er geen zin in hebt joh.”

Ze vindt het wel goed als mensen zich verdiepen in de geschiedenis van technologie. Dat helpt om beloften over vooruitgang kritisch te bekijken. Zelf denkt ze daarbij aan haar werk op de universiteit, waar ze informatie uit verschillende computersystemen bij elkaar moet zoeken. Meer software maakt het werk in haar ervaring niet vanzelf eenvoudiger.

Ook over AI kun je je een oordeel vormen zonder iedere toepassing zelf te gebruiken, vindt ze. “Het leven is te kort om je wat dan ook te laten opdringen.”

Felienne Hermans schrijft daarnaast een wekelijkse nieuwsbrief over AI, waarin ze ontwikkelingen in de technologie bespreekt.