Anthropic waarschuwt: AI kan zichzelf binnenkort verbeteren zonder menselijke hulp

zaterdag, 06 juni 2026 om 16:08

Anthropic stelt dat kunstmatige intelligentie mogelijk sneller dan verwacht een punt bereikt waarop AI-systemen zelfstandig hun eigen opvolgers kunnen ontwerpen. In een nieuw onderzoeksrapport schetst het bedrijf een toekomst waarin AI niet alleen programmeurs ondersteunt, maar uiteindelijk zelf nieuwe AI-modellen ontwikkelt zonder directe menselijke tussenkomst.

De waarschuwing komt van het Anthropic Institute, de onderzoeksafdeling van het bedrijf achter Claude. Volgens het rapport versnelt AI inmiddels de ontwikkeling van nieuwe AI-systemen in een tempo dat enkele jaren geleden nog ondenkbaar was.

AI schrijft inmiddels het grootste deel van de code bij Anthropic

De meest opvallende conclusie uit het rapport is dat Claude inmiddels verantwoordelijk is voor meer dan 80 procent van de code die wordt toegevoegd aan de productieomgeving van Anthropic.

Volgens het bedrijf is dat percentage explosief gestegen sinds de introductie van autonome programmeeragenten. Waar AI in 2024 vooral korte codefragmenten genereerde, kan Claude tegenwoordig complete softwareprojecten uitvoeren, testen en verbeteren met minimale menselijke begeleiding.

Anthropic stelt dat de gemiddelde engineer in het tweede kwartaal van 2026 ongeveer acht keer zoveel code oplevert als in 2024. De reden is eenvoudig: de programmeur schrijft steeds minder zelf en verschuift naar een rol als beoordelaar en supervisor.

Van AI-assistent naar AI-onderzoeker

De ontwikkelingen beperken zich niet tot softwareontwikkeling.

Anthropic laat zien dat Claude steeds beter wordt in het uitvoeren van wetenschappelijk onderzoek. Het model kan inmiddels zelfstandig experimenten ontwerpen, hypotheses testen en resultaten analyseren.

In een intern experiment kreeg een groep Claude-agents een open onderzoeksvraag op het gebied van AI-veiligheid. Zonder menselijke begeleiding ontwikkelden de systemen nieuwe experimenten, deelden bevindingen met elkaar en werkten honderden uren autonoom door.

Volgens Anthropic bereikten de AI-agenten daarbij bijna hetzelfde resultaat als menselijke onderzoekers.

Dat betekent niet dat AI al zelfstandig baanbrekend onderzoek verricht. Mensen bepalen nog steeds de onderzoeksvraag, stellen succescriteria vast en beoordelen de uiteindelijke resultaten. Toch ziet Anthropic hierin een belangrijke stap richting geautomatiseerde AI-ontwikkeling.

Recursive self-improvement komt dichterbij

Centraal in het rapport staat het concept van "recursive self-improvement".

Dat betekent dat een AI-systeem in staat wordt om een betere versie van zichzelf te ontwerpen. Vervolgens kan die verbeterde versie opnieuw een nog krachtiger opvolger bouwen, waardoor een zichzelf versterkende ontwikkelingscyclus ontstaat.

Volgens Anthropic is dat scenario nog geen realiteit, maar wijzen meerdere technische trends dezelfde richting op.

Het bedrijf ziet onder meer:

Sneller groeiende programmeercapaciteiten.
Sterke vooruitgang bij autonome onderzoeksprocessen.
Toenemende prestaties op complexe langetermijntaken.
Verbetering van AI-oordeelsvorming bij onderzoek en probleemoplossing.

Wanneer die ontwikkelingen doorzetten, zouden AI-systemen binnen enkele jaren een steeds groter deel van de AI-ontwikkeling zelf kunnen uitvoeren.

Menselijke rol verschuift naar toezicht

Anthropic verwacht dat de rol van menselijke onderzoekers hierdoor fundamenteel verandert.

Waar programmeurs vandaag nog software bouwen, verschuift hun werk volgens het bedrijf steeds meer richting toezicht, kwaliteitscontrole en strategische besluitvorming.

De vraag wordt niet langer hoe code moet worden geschreven, maar welke problemen het waard zijn om op te lossen.

Volgens onderzoekers binnen Anthropic ligt het belangrijkste menselijke voordeel momenteel nog bij zogenoemde "research taste": het vermogen om te bepalen welke ideeën waardevol zijn, welke resultaten betrouwbaar zijn en welke onderzoeksrichtingen kansrijk zijn.

Toch erkent het bedrijf dat ook deze vaardigheden mogelijk steeds beter door AI kunnen worden nagebootst.

Waarom Anthropic zich zorgen maakt

Naast de technologische kansen benadrukt Anthropic ook de risico's.

Als AI-systemen zelfstandig nieuwe AI-systemen kunnen ontwikkelen, wordt controle een steeds grotere uitdaging. Fouten, ongewenst gedrag of veiligheidsproblemen kunnen zich dan mogelijk sneller verspreiden dan menselijke onderzoekers kunnen ingrijpen.

Het bedrijf waarschuwt dat de huidige veiligheidsmechanismen mogelijk onvoldoende zijn voor een wereld waarin AI zichzelf blijft verbeteren.

Daarom pleit Anthropic voor internationale samenwerking rond de ontwikkeling van zeer krachtige AI-systemen. Volgens het bedrijf zou de wereld zelfs de mogelijkheid moeten hebben om de ontwikkeling tijdelijk te vertragen of te pauzeren als de technologie sneller evolueert dan maatschappelijke en veiligheidsstructuren kunnen bijhouden.

Een belangrijk signaal vanuit de AI-industrie

Het rapport is opvallend omdat het afkomstig is van een van de bedrijven die zelf vooroploopt in de ontwikkeling van geavanceerde AI-modellen.

Waar veel AI-bedrijven vooral focussen op nieuwe producten en toepassingen, richt Anthropic zich nadrukkelijk op de vraag wat er gebeurt wanneer AI steeds meer onderdelen van haar eigen ontwikkelingsproces overneemt.

De boodschap is duidelijk: de AI-industrie beweegt richting een tijdperk waarin kunstmatige intelligentie niet alleen hulpmiddelen bouwt voor mensen, maar mogelijk ook de volgende generatie AI-systemen ontwerpt.

Of die toekomst vijf, tien of twintig jaar verwijderd is, blijft onzeker. Maar volgens Anthropic is het moment aangebroken waarop overheden, bedrijven en onderzoekers zich serieus moeten voorbereiden op die mogelijkheid.