Waarom AI volgens deze wetenschapper nog lang niet superintelligent is

AI-systemen kunnen ingewikkelde wiskundige problemen oplossen, software schrijven en wetenschappers helpen bij nieuwe ontdekkingen. Toch ontbreekt volgens David Krakauer, directeur van het Santa Fe Institute, een belangrijke eigenschap: echte intelligentie draait niet alleen om het vinden van antwoorden, maar vooral om hoe efficiënt je die antwoorden bereikt. In een uitgebreid gesprek met Neil deGrasse Tyson legt hij uit waarom de huidige ontwikkeling van kunstmatige intelligentie volgens hem nog geen overtuigende route naar superintelligentie vormt.

De discussie over kunstmatige intelligentie draait vaak om prestaties. Kan een AI-model beter programmeren dan een mens? Kan het moeilijke examens halen? En wanneer worden systemen zo slim dat ze vrijwel alle menselijke intellectuele vaardigheden overtreffen?

Maar in een aflevering van StarTalk stelt wetenschapper David Krakauer een fundamentelere vraag: wat bedoelen we eigenlijk met intelligentie?

Krakauer onderzoekt complexe systemen, evolutie en de manier waarop intelligentie ontstaat. Volgens hem verwarren we bij kunstmatige intelligentie regelmatig twee verschillende eigenschappen: het vermogen om een probleem op te lossen en het vermogen om dat op een slimme, efficiënte manier te doen.

Dat onderscheid heeft grote gevolgen voor de manier waarop we naar ChatGPT, grote taalmodellen en de mogelijke komst van superintelligentie kijken.

Krakauer gebruikt een eenvoudige definitie van intelligentie: moeilijke problemen gemakkelijk maken.

Die definitie verschilt van de manier waarop AI-bedrijven hun systemen doorgaans beoordelen. Zij gebruiken onder meer benchmarks om te meten hoe goed modellen presteren bij programmeren, wiskunde, redeneren en andere taken.

Volgens Krakauer laten zulke tests vooral zien wat een systeem kan. Ze vertellen veel minder over de efficiëntie waarmee het een oplossing bereikt.

Hij gebruikt daarvoor een opvallende vergelijking.

Je kunt soep eten met een vork. Als je genoeg tijd hebt, lukt het uiteindelijk om de soep naar binnen te krijgen. Maar niemand zou een vork daarom het meest intelligente gereedschap noemen om soep te eten.

Volgens Krakauer gebeurt bij grote taalmodellen iets vergelijkbaars.

Een AI-systeem kan met enorme hoeveelheden rekenkracht en energie tot een indrukwekkend resultaat komen. Dat betekent volgens hem niet automatisch dat het de onderliggende taak op de meest intelligente manier uitvoert.

Tijdens het gesprek bespreekt hij ook AI-systemen die met grote aantallen agents aan moeilijke wiskundige problemen werken. Zulke systemen kunnen waardevolle resultaten opleveren, maar de benodigde middelen zijn volgens hem een essentieel onderdeel van de beoordeling.

Daarmee stelt hij een ongemakkelijke vraag voor de AI-industrie: als een systeem steeds meer computers, data en elektriciteit nodig heeft om beter te presteren, wordt het dan werkelijk slimmer?

Dat is overigens geen bewijs dat AI niet intelligent kan zijn. Efficiëntie is slechts één mogelijke maatstaf. Ook mensen gebruiken soms veel tijd en middelen om moeilijke problemen op te lossen. Krakauer verdedigt vooral een andere definitie dan de definities die veel AI-benchmarks hanteren.

Om zijn argument uit te leggen, kijkt Krakauer naar de evolutie van intelligentie.

Volgens hem ontstond biologische intelligentie onder omstandigheden waarin tijd, energie en informatie schaars waren.

Een organisme moet voortdurend beslissingen nemen om te overleven. Het kan niet onbeperkt experimenteren of wachten op enorme hoeveelheden nieuwe informatie.

De evolutie leverde daarom oplossingen op waarmee levende wezens relatief snel op veranderingen reageren.

Krakauer beschouwt intelligentie bovendien niet als een exclusief menselijke eigenschap. Ook bacteriën, planten en andere organismen reageren op hun omgeving en lossen problemen op die belangrijk zijn voor hun voortbestaan.

Het menselijke brein vormt een bijzonder geavanceerd voorbeeld van die ontwikkeling.

Grote taalmodellen volgen een andere route.

Een model zoals ChatGPT leert tijdens de training patronen uit grote hoeveelheden tekst en andere gegevens. Het ontwikkelt daardoor vaardigheden zonder dezelfde biologische geschiedenis als mensen te doorlopen.

Krakauer wijst vooral op het belang van ervaringen die voorafgaan aan taal.

Mensen en andere dieren nemen hun omgeving waar, bewegen, reageren op gevaar en ontwikkelen vaardigheden zonder alles eerst in woorden te beschrijven.

Een traditioneel taalmodel begint juist bij taal als belangrijkste informatiebron.

Dat verschil is volgens Krakauer belangrijk. Hij betwijfelt of een systeem dat hoofdzakelijk via taal leert dezelfde vorm van intelligentie ontwikkelt als een organisme dat miljoenen jaren onder evolutionaire druk heeft gestaan.

Zijn argument betekent niet dat AI nooit menselijke vaardigheden kan evenaren of overtreffen. Het betekent wel dat vergelijkbare prestaties niet noodzakelijk voortkomen uit vergelijkbare denkprocessen.

Een tweede belangrijk onderwerp in het gesprek is de invloed van AI op onze eigen intelligentie.

Krakauer maakt onderscheid tussen technologie die menselijke vaardigheden versterkt en technologie die vaardigheden volledig overneemt.

Hij noemt een telraam als voorbeeld van het eerste type.

Wie met een telraam leert rekenen, kan volgens hem bepaalde rekenprincipes zo goed begrijpen dat het hulpmiddel uiteindelijk niet meer nodig is.

Een navigatiesysteem vormt een ander voorbeeld.

GPS helpt mensen om hun bestemming te bereiken. Maar wie altijd instructies volgt, hoeft zelf geen kaart meer te lezen, een route te plannen of ruimtelijke verbanden te begrijpen.

Krakauer vreest dat AI op veel grotere schaal dezelfde ontwikkeling kan veroorzaken.

Wanneer mensen AI gebruiken om moeilijke taken beter te begrijpen, kan de technologie hun kennis vergroten.

Maar wanneer ze het volledige denkproces uitbesteden, bestaat het risico dat ze bepaalde vaardigheden nooit ontwikkelen.

Vooral in het onderwijs kan dat gevolgen hebben.

Een leerling die AI gebruikt om een wiskundig probleem stap voor stap te begrijpen, leert mogelijk meer. Een leerling die uitsluitend het antwoord kopieert, behaalt misschien hetzelfde resultaat zonder de achterliggende methode te beheersen.

Krakauer wijst daarbij op een tweede probleem: afhankelijkheid.

Wie een vaardigheid volledig uitbesteedt, blijft voor die vaardigheid afhankelijk van de technologie en de organisatie die deze aanbiedt.

Dat betekent niet dat iedereen weer zonder rekenmachine of navigatiesysteem moet werken. De vraag is welke vaardigheden mensen zelf moeten blijven ontwikkelen en welke taken ze zonder grote nadelen kunnen automatiseren.

Krakauer gebruikt nog een andere vergelijking om de huidige AI-ontwikkeling te beschrijven.

Hij vergelijkt grote taalmodellen met de stoommachine tijdens de industriële revolutie.

De stoommachine maakte het mogelijk om enorme hoeveelheden energie uit steenkool te benutten. Die energie lag al miljoenen jaren opgeslagen in de aarde.

Volgens Krakauer gebeurt nu iets vergelijkbaars met menselijke kennis.

Boeken, wetenschappelijke artikelen en andere teksten bevatten enorme hoeveelheden informatie die mensen gedurende duizenden jaren hebben verzameld.

Een individuele onderzoeker kan onmogelijk alles lezen.

Grote taalmodellen maken het mogelijk om patronen uit een groot deel van die verzamelde kennis te benutten en informatie snel toegankelijk te maken.

Krakauer beschrijft AI-bedrijven zoals OpenAI en Anthropic daarom als een nieuw soort mijnbouwbedrijven.

Ze winnen geen steenkool of olie, maar halen economische waarde uit opgeslagen menselijke kennis.

De vergelijking gaat volgens hem verder dan alleen de voordelen.

De industriële revolutie veroorzaakte ook vervuiling. AI brengt eveneens kosten met zich mee, waaronder het energieverbruik van datacenters.

Daarnaast waarschuwt Krakauer voor een vorm van vervuiling van de informatieomgeving.

AI-systemen kunnen onjuiste informatie produceren en bestaande misvattingen opnieuw verspreiden. Wanneer zulke informatie vervolgens weer in nieuwe datasets terechtkomt, ontstaat het risico dat fouten zich verder verspreiden.

De vergelijking is een interpretatie van Krakauer, geen letterlijke beschrijving van hoe alle AI-modellen functioneren. Ze laat vooral zien dat hij AI beschouwt als een technologie die bestaande kennis op een nieuwe schaal toegankelijk maakt.

Ondanks zijn kritiek ziet Krakauer grote mogelijkheden voor kunstmatige intelligentie.

Hij noemt eiwitstructuurvoorspelling als voorbeeld.

Eiwitten bestaan uit lange ketens van aminozuren die complexe driedimensionale structuren vormen. Het voorspellen van die structuren is een belangrijk probleem in de biologie.

Traditionele natuurkundige simulaties kunnen veel rekenkracht vereisen, omdat onderzoekers rekening moeten houden met enorme aantallen mogelijke interacties.

AI-systemen zoals AlphaFold gebruiken neurale netwerken om structuren te voorspellen zonder iedere mogelijke interactie volledig te simuleren.

Dat maakt bepaalde wetenschappelijke toepassingen aanzienlijk praktischer.

Volgens Krakauer ligt daar een belangrijke kracht van AI: systemen kunnen helpen bij problemen met zoveel variabelen dat traditionele onderzoeksmethoden tekortschieten.

Dat is iets anders dan beweren dat AI zelfstandig alle wetenschappelijke vraagstukken kan oplossen.

AI kan wetenschappers ondersteunen bij het herkennen van patronen, het onderzoeken van complexe systemen en het vinden van mogelijke oplossingen.

De interpretatie van die resultaten blijft belangrijk.

Een voorspelling kan nuttig zijn zonder dat onderzoekers precies begrijpen waarom een model tot die voorspelling komt.

Voor Krakauer vormt dat onderscheid tussen een bruikbaar antwoord en werkelijk begrip een centraal onderdeel van wetenschappelijke vooruitgang.

Aan het einde van het gesprek keert Krakauer terug naar de vraag of AI uiteindelijk superintelligent kan worden.

Zijn bezwaar richt zich vooral op de huidige ontwikkelingsroute.

AI-bedrijven vergroten de mogelijkheden van hun systemen onder meer door meer rekenkracht, betere algoritmen, extra trainingsdata en nieuwe vormen van redeneren te gebruiken.

Maar volgens Krakauer moeten we ons afvragen of die aanpak moeilijke problemen werkelijk eenvoudiger maakt.

Een systeem dat een probleem oplost met duizenden gespecialiseerde agents en enorme hoeveelheden energie kan indrukwekkend zijn. Toch voldoet het niet vanzelfsprekend aan zijn definitie van intelligentie.

Dat betekent niet dat superintelligentie onmogelijk is.

Krakauer levert geen bewijs voor een harde grens aan de mogelijkheden van AI. Zijn kritiek richt zich op de aanname dat steeds betere prestaties automatisch zullen uitmonden in een intelligentie die op alle relevante gebieden superieur is aan die van mensen.

Ook maakt hij duidelijk dat AI een bijzonder krachtig hulpmiddel kan zijn zonder zelfstandig de rol van wetenschapper of denker over te nemen.

Zijn belangrijkste boodschap gaat uiteindelijk over de toekomst van menselijke kennis.

Wanneer computers steeds meer antwoorden kunnen produceren, wordt het vermogen om goede vragen te stellen mogelijk nog waardevoller.

De uitdaging is volgens Krakauer daarom niet alleen om AI-systemen krachtiger te maken, maar ook om ervoor te zorgen dat mensen blijven begrijpen wat ze met die systemen ontdekken.

Want een wereld waarin computers steeds meer problemen oplossen, is niet automatisch een wereld waarin mensen de antwoorden ook beter begrijpen.