Hoe AI detectietools studenten onterecht beschuldigen van vals spelen

De opkomst van kunstmatige intelligentie (AI) in het onderwijs is een lastige. Aan de ene kant zien we dat studenten massaal gebruikmaken van de technologie, bijvoorbeeld om hen te helpen bij het schrijven van werkstukken. Aan de andere kant zien we dat scholen zelf ook de technologie inzetten om hun leerlingen te controleren op valsspelen. Opvallend genoeg heeft AI het niet altijd bij het juiste eind, en zien we dat studenten ook foutief beschuldigd worden van fraude.

Het onterecht beschuldigen van vals spelen is een groeiend. Zo identificeren de tools ten onrechte dat een opdracht is geschreven door AI, terwijl dit niet het geval is. Voor studenten kunnen de gevolgen groot zijn: van een onvoldoende tot andere disciplinaire maatregelen zoals een schorsing.

Een recent voorbeeld is Moira Olmsted, een student die beschuldigd werd van het gebruik van AI voor haar schriftelijke opdracht. Ze ontving een nul en werd gewaarschuwd dat herhaling tot strengere straffen zou leiden. Olmsted, die autisme heeft, benadrukte dat haar schrijfstijl mogelijk verkeerd werd geïnterpreteerd door de detectietool. Uiteindelijk werd haar cijfer herzien.

Uit onderzoek blijkt dat AI detectietools zoals GPTZero en Copyleaks een foutmarge hebben van 1% tot 2%. Andere tools zoals het veelgebruikte detectietool Turnitin hebben een nog grotere foutmarge van 4%. Sommige scholen hebben deze tools zelfs uitgeschakeld vanwege zorgen over de nauwkeurigheid.

De foutmarges lijken relatief klein, maar gezien de vele opdrachten die jaarlijks worden ingediend, kunnen deze fouten zich erg snel opstapelen. De tools controleren geschreven stukken werk vooral op het feit of ze op een bepaalde “mechanische” manier zijn geschreven, wat vaak typerend is voor AI. Dit kan echter tot problemen leiden wanneer studenten een dergelijke schrijfstijl van zichzelf hanteren. Vooral buitenlandse studenten of leerlingen met aandoeningen zoals autisme (zoals het geval bij Moira Olmsted), hebben vaak meer moeite om op een natuurlijke manier te schrijven en lopen daardoor een verhoogd risico om onterecht beschuldigd te worden.