Microsoft Azure CTO waarschuwt: AI ‘vibe coding’ bereikt grenzen

Microsoft Azure-CTO Mark Russinovich waarschuwt dat ‘vibe coding’ en door AI gestuurde softwareontwikkelingstools geen vervanging zijn voor menselijke programmeurs bij complexe projecten, ondanks de meest optimistische verwachtingen in de industrie.

Russinovich, spreker tijdens een startup- en investeerdersbijeenkomst van Technology Alliance, erkende dat AI-codingtools effectief zijn voor eenvoudige webapps, basisdatabases en snelle prototyping – zelfs voor gebruikers zonder programmeerervaring.

Maar hij benadrukte dat deze tools falen bij complexe softwareprojecten met meerdere bestanden, mappen en onderlinge codeafhankelijkheden – het type werk dat professionele ontwikkelaars dagelijks doen. “Op dit moment liggen zulke taken nog buiten het bereik van onze AI-systemen”, stelde hij. “Er zal vooruitgang zijn, maar er zit een plafond in de manier waarop autoregressive transformers werken dat we simpelweg niet kunnen omzeilen.”

Zelfs over vijf jaar voorziet hij niet dat AI-systemen zelfstandig complexe software op hoog niveau zullen bouwen of de meest geavanceerde codebases zullen beheren. In plaats daarvan ziet hij de toekomst in AI-assisted coding: AI ondersteunt ontwikkelaars, terwijl mensen de architectuur en complexe beslissingen blijven overzien – volledig in lijn met Microsofts Copilot-visie, begrepen via GitHub Copilot.

Russinovich, lange tijd technisch en cloudleider bij Microsoft, gaf daarnaast uitleg over de AI-structuur zoals reasoning models, de daling van trainingskosten, en het belang van compacte taalmodellen die op edge-apparaten kunnen draaien. Ook besprak hij agentic AI-systemen die autonoom kunnen opereren – een focus voor Microsoft en andere techreuzen dit jaar – en AI’s rol in wetenschappelijke ontdekkingen zoals Microsoft Discovery.

Toch keerde Russinovich steeds terug naar AI-beperkingen als een ‘healthy reality check’. Hij besprak zijn eigen AI-veiligheidsonderzoek, waaronder de “crescendo”-techniek waarmee AI-modellen worden verleid om anders geweigerde informatie vrij te geven – een psychologische methode waarbij onschuldig beginnen leidt tot steeds diepgaandere onthullingen. Opmerkelijk: de crescendo-methode stond in een recent onderzoeksartikel – het eerste grotendeels door AI gegenereerde werk dat werd geaccepteerd op een top-tier wetenschappelijke conferentie.

Hij wees ook uitgebreid op aanhoudende hallucineringsproblemen in AI, waaronder voorbeelden van Google en Microsoft Bing die onjuiste antwoorden gaven over de tijd in de Cookeilanden en over het huidige jaar. “AI is zeer onbetrouwbaar. Dat is de belangrijkste conclusie”, aldus Russinovich. “Je moet zorgvuldig controleren wat je in het model stopt, het fundament leggen, en vervolgens verifiëren wat eruit komt.”

Afhankelijk van de toepassing, zei hij, moet je rigoureuzer te werk gaan, gezien de impact van eventuele fouten.