Oud OpenAI werknemer: “Ontwikkeling van kunstmatige intelligentie is beangstigend”

De ontwikkeling van kunstmatige intelligentie (AI) gaat enorm snel. Steven Adler, een voormalig veiligheidsonderzoeker bij OpenAI, is bezorgd. Het tempo waarmee de technologie groeit kan volgens hem tot enorme problemen leiden.

Zo geeft Adler in een reeks aan X berichten aan dat techbedrijven een “zeer risicovolle gok” nemen in de race naar Artificial General Intelligence (AGI), het punt waarbij computers net zo slim of zelfs slimmer zijn dan mensen.

Landen en techbedrijven willen maar al te graag de eerste zijn die AGI weten te ontwikkelen. Waarom? Omdat AGI de potentie heeft om een ongekende technologische voorsprong te geven op elk front: economisch, militair en wetenschappelijk. De eerste partij die AGI volledig onder controle krijgt, kan een dominante positie verwerven in de wereld

De race naar AGI is vergelijkbaar met de ‘space race’ tijdens de Koude Oorlog, waarbij de Sovjet-Unie en de Verenigde Staten vochten om technologische superioriteit in de ruimte. Destijds ging het om wie als eerste de ruimte kon verkennen en uiteindelijk een man op de maan kon zetten.

De onderliggende drijfveer was dat deze technologieën direct konden worden toegepast in militaire strategieën, zoals intercontinentale ballistische raketten (ICBM’s) en spionagesatellieten, die cruciaal waren voor nationale veiligheid en geopolitieke macht. Het land dat dus de ‘space race’ won, was ook het land met militaire superioriteit.

Waar landen geopolitieke macht streven, betekent AGI voor bedrijven enorme commerciële kansen. Een superintelligente AI zou bestaande bedrijfsmodellen volledig kunnen transformeren en bedrijven die hierin vooroplopen, een ongeëvenaarde macht geven.

Adler, die in november OpenAI verliet, stelt dat de snelle ontwikkeling van AI zo ver is gevorderd dat het invloed heeft op persoonlijke keuzes, zoals de vraag waar hij in de toekomst een gezin wil stichten of hoeveel hij moet sparen voor zijn pensioen. "Zal de mensheid überhaupt zo ver komen?" vraagt hij zich af.

Volgens Adler is de concurrentiestrijd om AGI dan ook problematisch. Hij benadrukt dat geen enkel laboratorium een oplossing heeft gevonden voor AI alignment, oftewel het afstemmen van AI op menselijke waarden en normen. Hoe sneller de industrie doorontwikkelt, hoe kleiner de kans dat er op tijd een veilige oplossing wordt gevonden. De tijd tikt.