DeepMind-topman en Nobelprijswinnaar
Demis Hassabis roept op tot een nieuw internationaal raamwerk voor de controle van de krachtigste AI-systemen. In een uitgebreid manifest
stelt hij dat Artificial General Intelligence (AGI) waarschijnlijk nog maar enkele jaren verwijderd is. Volgens Hassabis is de impact daarvan groter dan die van het internet, elektriciteit en zelfs de Industriële Revolutie.
Opvallend is echter niet alleen zijn waarschuwing voor de risico's van geavanceerde AI. Minstens zo opvallend is zijn voorstel om juist de
Verenigde Staten het voortouw te laten nemen bij het toezicht op deze technologie. Dat roept vragen op, zeker omdat
Google DeepMind zelf behoort tot de absolute wereldtop op het gebied van frontier AI.
AGI komt sneller dan veel mensen denken
Volgens Hassabis bevindt de wereld zich aan de vooravond van een nieuw tijdperk. Hij vergelijkt
AGI met de ontdekking van vuur of elektriciteit en verwacht dat de technologie wetenschappelijke doorbraken drastisch zal versnellen.
Hij noemt onder meer:
-
snellere ontwikkeling van medicijnen;
-
nieuwe materialen;
-
schone energie;
-
enorme economische productiviteitsgroei;
-
een samenleving waarin schaarste mogelijk grotendeels verdwijnt.
Zijn boodschap is helder: AGI wordt volgens hem onvermijdelijk en de samenleving moet zich nu voorbereiden.
Tegelijk waarschuwt hij voor ongekende risico's
Het opvallende aan het essay is dat Hassabis optimisme combineert met forse waarschuwingen.
Volgens hem kunnen toekomstige AI-systemen:
-
cyberaanvallen automatiseren;
-
biologische of nucleaire risico's vergroten;
-
zichzelf steeds verder verbeteren;
-
veiligheidsmaatregelen proberen te omzeilen.
Omdat zelfs AI-experts het onderling niet eens zijn over hoe snel deze ontwikkelingen verlopen, pleit hij voor "voorzichtige optimistische vooruitgang" in plaats van een volledig vrije markt.
Een nieuwe AI-autoriteit... onder leiding van de VS
Het meest concrete onderdeel van zijn voorstel is de oprichting van een nieuwe Frontier AI Standards Body.
Deze organisatie zou:
-
bepalen welke AI-modellen als "Frontier AI" worden aangemerkt;
-
veiligheidstests ontwikkelen;
-
modellen beoordelen vóór publieke lancering;
-
samenwerken met Amerikaanse overheidsinstanties en nationale laboratoria;
-
uiteindelijk zelfs verplichte goedkeuring kunnen eisen voordat modellen op de Amerikaanse markt verschijnen.
Volgens Hassabis zou dit orgaan vergelijkbaar moeten worden met de Amerikaanse financiële toezichthouder FINRA: officieel onafhankelijk, maar wel nauw verbonden met overheid én industrie.
Opvallend: Google behoort zelf tot de partijen die toezicht krijgen
Hier ontstaat een interessante spanning.
Google DeepMind is samen met OpenAI, Anthropic, xAI en enkele Chinese AI-bedrijven juist één van de zeer kleine groep bedrijven die onder zo'n systeem zouden vallen.
Dat maakt het voorstel politiek gevoelig.
Enerzijds pleit Hassabis voor strengere controle op zijn eigen sector.
Anderzijds stelt hij voor dat juist het land waar Google is gevestigd het mondiale initiatief neemt.
Critici zouden kunnen stellen dat hierdoor een situatie ontstaat waarin de Verenigde Staten niet alleen technologisch de leiding hebben, maar ook bepalen welke AI-systemen wereldwijd als veilig of onveilig worden beschouwd.
Wereldwijde standaard of strategisch voordeel?
Officieel benadrukt Hassabis dat het uiteindelijk moet uitgroeien tot een internationaal systeem.
Maar de route die hij schetst begint nadrukkelijk in Washington.
Dat is geen toevallige keuze.
De Verenigde Staten huisvesten momenteel vrijwel alle grootste commerciële AI-laboratoria:
-
Google DeepMind;
-
OpenAI;
-
Anthropic;
-
Meta;
-
xAI.
Wanneer Amerikaanse normen de internationale standaard worden, krijgen deze bedrijven automatisch een sterke positie bij het vormgeven van de spelregels.
Dat hoeft niet per definitie problematisch te zijn. De VS beschikt over veel technische expertise en onderzoeksinfrastructuur. Tegelijkertijd maakt die concentratie van kennis, kapitaal en regelgeving het moeilijk om toezicht volledig los te zien van geopolitieke belangen.
Voor Europa, China en andere AI-landen zal de vraag dan ook zijn of zij bereid zijn een door de VS ontwikkeld beoordelingssysteem te accepteren.
AI-regelgeving verschuift steeds meer richting machtspolitiek
Het essay van Hassabis laat zien hoe AI-regelgeving steeds minder uitsluitend over veiligheid gaat.
Naarmate AGI dichterbij lijkt te komen, verschuift de discussie ook naar de vraag wie bepaalt de spelregels.
Wie de standaarden opstelt, bepaalt immers indirect:
-
welke modellen worden toegelaten;
-
welke veiligheidseisen gelden;
-
welke bedrijven toegang krijgen tot markten;
-
welke landen invloed uitoefenen op de volgende generatie AI.
Daarmee raakt AI-governance steeds meer verweven met economische en geopolitieke machtsverhoudingen.
Conclusie
Het pleidooi van Demis Hassabis is inhoudelijk één van de meest uitgewerkte voorstellen tot nu toe voor toezicht op frontier AI. Zijn waarschuwing dat de samenleving slechts een klein tijdvenster heeft om veilige kaders op te zetten, sluit aan bij eerdere oproepen van onderzoekers en beleidsmakers.
Toch zal vooral één onderdeel veel discussie oproepen: de keuze om de Verenigde Staten het startpunt te maken van een systeem dat uiteindelijk wereldwijde AI-standaarden moet bepalen.
Dat roept onvermijdelijk de vraag op hoe onafhankelijk zo'n model werkelijk kan zijn wanneer een aanzienlijk deel van de bedrijven die het moet reguleren, waaronder Google DeepMind zelf, juist in datzelfde ecosysteem opereert.