Deloitte betaalt overheid terug na gebruik van AI in foutief rapport van 440.000 dollar

Deloitte Australië zal een gedeeltelijke terugbetaling doen aan de federale overheid, nadat het bedrijf heeft toegegeven dat kunstmatige intelligentie (AI) werd gebruikt bij het opstellen van een rapport van 440.000 Australische dollar. Het document bleek vol fouten te staan, waaronder drie niet-bestaande academische verwijzingen en een verzonnen citaat uit een uitspraak van de Federale Rechtbank.

Het rapport was in december 2024 opgesteld voor het Department of Employment and Workplace Relations (DEWR) en onderzocht het zogenoemde Targeted Compliance Framework — een systeem dat sancties oplegt aan werkzoekenden die niet aan bepaalde voorwaarden voldoen. Dat meldt The Guardian.

Na publicatie in juli 2025 ontdekten onderzoekers ernstige fouten in het document. Universitair docent Christopher Rudge wees erop dat meerdere wetenschappelijke bronnen en een rechterlijke uitspraak simpelweg niet bestonden. Deloitte erkende de problemen en publiceerde stilletjes een herziene versie op de website van DEWR. Daarin werden meer dan een dozijn niet-bestaande verwijzingen verwijderd of herschreven, en werd het gebruik van generatieve AI expliciet vermeld.

Volgens Deloitte was de AI-technologie onderdeel van een interne ‘tool chain’ die draaide binnen de Azure-omgeving van de overheid. Het bedrijf benadrukte dat de conclusies van het rapport niet waren gewijzigd, ondanks de correcties.

Deloitte besloot de laatste betalingen uit het contract niet te innen. Daarmee erkent het bedrijf impliciet dat een deel van het werk niet aan de vereiste kwaliteitsnormen voldeed. De zaak leidde tot felle kritiek vanuit de politiek. Senator Deborah O’Neill noemde het incident “geen kunstmatige intelligentieprobleem, maar een menselijk beoordelingsprobleem”, verwijzend naar het gebrek aan toezicht bij het gebruik van AI.

Ook vanuit de academische wereld kwam kritiek. Onderzoekers waarschuwen dat zonder menselijke controle en bronverificatie, zogenaamde ‘AI-hallucinaties’ (verzonnen feiten of citaten) hun weg kunnen vinden naar officiële documenten.

De affaire rond Deloitte past in een groeiend aantal gevallen waarbij AI-fouten de betrouwbaarheid van professionele diensten aantasten. Eerder dit jaar werd een advocaat in West-Australië berispt nadat hij juridische documenten had ingediend met niet-bestaande jurisprudentie die door AI was gegenereerd.

Critici stellen dat de casus duidelijk maakt hoe risicovol het gebruik van generatieve AI kan zijn in beleidsrapporten en juridische documenten. Transparantie over AI-gebruik en grondige menselijke controle worden door velen nu gezien als cruciale voorwaarden voor verantwoord gebruik binnen de advieswereld.