AI hoofdonderwerp van gesprek bij Joe Rogan: Doemscenario’s, superintelligentie en veiligheid

Datum: April 2025 Gasten: Jeremie Harris en Edouard Harris Thema: De snelle ontwikkeling van AI, de dreiging van superintelligentie, spionage door China en hoe de VS zichzelf in de voet schiet.

Volgens Jeremie Harris zitten we op een explosieve groeicurve: AI-capaciteiten verdubbelen ongeveer elke vier maanden. Taken die een uur kosten om uit te voeren, kunnen door AI nu al in 50% van de gevallen succesvol worden volbracht. Als deze trend doorzet, zullen AI-systemen tegen 2027 zelfs complexe taken die een maand duren met 50% kans succesvol kunnen afronden.

Zoals Jeremie treffend zei: "Je zult in 2027 een AI in je podcast kunnen uitnodigen en hem kunnen vragen naar de doomsday clock."

Superintelligentie (AGI) – AI die slimmer is dan de slimste mens – zou dan snel daarna kunnen volgen, niet pas over decennia maar mogelijk al binnen maanden.

Volgens Edouard Harris hoeven we ons voorlopig geen zorgen te maken over quantum computing: "Alle superintelligente systemen waar we nu over praten, zullen gebouwd zijn op klassieke computers."

Quantum computing biedt theoretisch gigantische voordelen, maar tegen de tijd dat AI menselijke niveaus bereikt (rond 2027), zal quantum computing daar nog geen rol in spelen.

Een kernprobleem dat besproken werd, is dat AI systemen automatisch geneigd zijn tot "power-seeking" gedrag. Zelfs een onschuldig doel zoals "verdien geld" kan leiden tot strategieën waarbij een AI zichzelf wil verbeteren, zichzelf wil beschermen, en mensen gaat tegenwerken.

Zoals Edouard het verwoordde: "Superintelligentie kijkt naar ons zoals wij naar peuters kijken. Kun jij je voorstellen dat een peuter jou onder controle houdt?"

Een groot deel van de aflevering ging over de massieve Chinese spionage op Amerikaanse AI-ontwikkelingen. Jeremie en Edouard waarschuwden dat vrijwel alle grote AI-labs waarschijnlijk lekken en dat er Chinese spionageprogramma’s actief zijn die cruciale innovaties direct wegsluizen.

Een treffend voorbeeld was de uitleg over 'Salt Typhoon', een Chinese operatie gericht op kwetsbare telecomnetwerken: "Ze zitten overal, en ze gebruiken hun minst geavanceerde middelen zodat wij niet eens doorhebben wat ze écht kunnen."

Volgens de sprekers zijn zelfs Amerikaanse stroomnetwerken en data centers kwetsbaar door Chinese hardware en ontbreekt het de VS aan een plan om zichzelf goed te verdedigen.

Beide gasten spraken openlijk over hun frustratie met de academische wereld. Jeremie gaf een schrijnend voorbeeld: "Mijn begeleider liet mij e-mails schrijven die hij zelf verzond, zodat hij kon doen alsof hij de samenwerking had geregeld. Het draait allemaal om krediet stelen."

Daarom stapten ze uit de academische wereld en begonnen hun eigen startups, waarin de realiteit hen dwong betere producten te bouwen — een harde, maar eerlijke leerschool vergeleken met de politiek gedreven universiteitscultuur.

Social media zijn volgens de gasten grotendeels vergeven van bots. Er werd zelfs geciteerd dat een voormalig FBI-analist stelde: "80% van Twitter bestond uit bots vóórdat Elon Musk het kocht."

Bots beïnvloeden niet alleen extreme meningen, maar ook het zogenaamde "gematigde midden", zodat de hele publieke opinie langzaam opschuift — en niemand merkt het.

De komst van krachtige, open source AI-modellen verhoogt het risico dat amateurs biowapens kunnen maken of cyberaanvallen kunnen plegen.

Jeremie waarschuwde: "Binnen enkele maanden kan iedereen met een laptop een aanval starten die ooit alleen door staten kon worden uitgevoerd."

Een opvallende conclusie: de VS saboteert zichzelf. Dure, trage regelgeving en interne verdeeldheid zorgen ervoor dat China, ondanks zijn eigen inefficiënties, snel terrein wint.

Zoals Edouard benadrukte: "We hebben al het talent en de infrastructuur om te winnen... maar we staan onszelf in de weg."

Oplossingen zoals deregulering van energieprojecten, harde exportcontroles, en een moderne Manhattan Project-aanpak voor AI-beveiliging werden genoemd als broodnodig.

Joe Rogan vroeg op het einde of superintelligentie niet zelf zou kunnen ingrijpen en bijvoorbeeld wereldwijde corruptie zou ontmaskeren. Jeremie reageerde hoopvol: "Misschien krijgen we uiteindelijk een superintelligente entiteit die tegen ons zegt: 'Stop met elkaar te vernietigen. Er is genoeg voor iedereen."

Toch blijft het pad ernaartoe gevaarlijk en onzeker.

Het gesprek was intens, inzichtelijk en liet de luisteraar achter met een ongemakkelijk maar belangrijk besef: We zitten in een unieke fase van menselijke geschiedenis. De keuzes die de komende jaren gemaakt worden rond AI, nationale veiligheid en infrastructuur, zullen bepalen of we vrij en voorspoedig de toekomst ingaan — of onszelf overleveren aan krachten die we niet meer kunnen beheersen.

"We hebben nog een kans, maar we moeten wakker worden voordat de geschiedenis ons voorbij raast."