AI-trainers waarschuwen: wij vertrouwen chatbots zelf niet meer

Wie dagelijks met AI werkt, zou je misschien verwachten dat die technologie blind vertrouwt. Maar in werkelijkheid gebeurt het tegenovergestelde: de mensen die chatbots trainen, beoordelen en corrigeren, trekken thuis vaak juist de stekker eruit. Waarom raden uitgerekend de experts hun vrienden, familie en soms zelfs hun kinderen af om generatieve AI te gebruiken?

Steeds meer AI-raters en data-werkers melden dat hun vertrouwen in generatieve AI drastisch is gedaald, zo blijkt uit interviews met The Guardian. Niet omdat ze tegen innovatie zijn, maar omdat ze elke dag zien hoe vaak het misgaat.

Volgens hen is “garbage in, garbage out” geen oude IT-wijsheid, maar een perfecte omschrijving van hoe veel chatbots vandaag de dag functioneren. Ze worden gevoed met incomplete, foutieve of slecht geclassificeerde data, wat rechtstreeks leidt tot bias en onnauwkeurige antwoorden.

De werkomstandigheden helpen niet mee. Veel raters krijgen minimale training, vage instructies en deadlines die vooral zijn afgestemd op snelheid in plaats van op zorgvuldigheid. Sommigen moeten medische of gevoelige vragen beoordelen zonder enige achtergrondkennis. Dat voelt voor hen gevaarlijk: een verkeerde beoordeling kan in de publieke chatbot leiden tot misinformatie, vooral over onderwerpen waar mensen wanhopig naar juiste informatie zoeken.

Daar komt bij dat moderne chatbots bijna nooit meer “ik weet het niet” durven te zeggen. In plaats daarvan produceren ze liever een zelfverzekerd maar incorrect antwoord. Raters zien dit dagelijks gebeuren en noemen het een van de grootste risico’s: de illusie van betrouwbaarheid.

Opvallend is dat uit de interviews blijkt dat veel raters thuis geen AI meer gebruiken. Sommigen verbieden hun kinderen ermee te werken totdat ze oud genoeg zijn om kritisch te beoordelen wat klopt en wat niet. Ze waarschuwen dat de publieke versies van AI-systemen dezelfde fouten bevatten als de interne systemen die zij dagelijks zien ontsporen.

Een groeiende groep raters geeft inmiddels presentaties aan scholen en overheidsinstellingen. Hun boodschap is simpel: AI is niet futuristisch en magisch, maar fragiel. Het draait op slechte data, lage lonen en een enorme hoeveelheid onzichtbaar mensenwerk. Volgens hen is het tijd dat het publiek beter begrijpt wat er achter de schermen gebeurt.