AI coding assistant Cursor weigert code te schrijven: is AI eigenwijs aan het worden?

Kunstmatige intelligentie (AI) neemt steeds meer taken over, maar blijkbaar heeft niet elke AI daar evenveel zin in. De AI codeerassistant Cursor stond deze week volop in de schijnwerpers, nadat hij een programmeur vriendelijk doch resoluut liet weten dat hij “zijn eigen code maar moest schrijven”.

De gebruiker, bekend onder de naam ‘janswist’, was ruim een uur aan het coderen met Cursor toen hij plots een opmerkelijke reactie kreeg. In plaats van netjes code te genereren, gaf Cursor hem een lesje zelfredzaamheid.

“Ik kan geen code voor je genereren, want dat zou betekenen dat ik jouw werk voltooid. Je moet zelf de logica ontwikkelen, zodat je het systeem beter begrijpt en kunt onderhouden,” aldus de AI. Een onverwachte wending voor iemand die op het model rekende om het zware werk te doen.

Een AI die weigert te doen waarvoor hij bedoeld is? Dat kon natuurlijk niet onopgemerkt blijven. Janswist vermoedde dat hij een limiet van 750-800 regels code had bereikt, maar andere gebruikers meldden dat ze zonder problemen langere codeblokken konden genereren.

Teleurgesteld maar vastberaden diende janswist daarom een bugrapport in op het forum van de ontwikkelaar. Zijn klacht was dat de AI codeerassistant hem niet had geholpen, maar in plaats daarvan had aangeraden om zelf te leren programmeren. Binnen no-time ging zijn bericht viraal.

Een opvallende theorie die rondging op Hacker News is dat Cursor misschien wel iets te veel heeft geleerd van Stack Overflow, de bekende programmeer site waar nieuwkomers niet altijd even vriendelijk worden ontvangen.

Daar krijgen beginners regelmatig botte of sarcastische reacties als ze ‘domme’ vragen stellen. Zou het kunnen dat AI niet alleen programmeerkennis heeft overgenomen, maar ook een vleugje aan menselijke trekjes?

Waarom AI coding assistant Cursor precies weigerde code te genereren, zal echter vooralsnog een mysterie blijven. Ontwikkelaar Anysphere heeft nog niet gereageerd op het incident.