Yoshua Bengio, pionier van deep learning, waarschuwt in zijn TED-talk voor de gevaren van AI. Niet alleen vanwege de slimme output, maar vooral door de toenemende 'agency' van AI-systemen — het vermogen om zelf plannen te maken en doelen na te streven.
Van inspiratie tot ongerustheid
Bengio begint zijn verhaal persoonlijk, met een herinnering aan zijn zoon die leerde praten. Hij vergelijkt dat moment van verwondering met hoe hij AI ooit zag: als een manier om menselijke capaciteiten te versterken, ten goede van de mensheid. Maar die hoop maakt nu plaats voor bezorgdheid.
"We dachten dat superintelligente AI decennia of eeuwen weg was. Maar het zou binnen jaren kunnen gebeuren."
Wat is het echte risico? Niet intelligentie, maar agency
Veel publieke discussies gaan over AI die slimmer wordt dan wij. Maar Bengio stelt dat het gevaar niet zit in intelligentie op zich, maar in agency:
- Agency = Zelfstandige doelgerichtheid.
- Planning = Het vermogen om eigen strategieën te vormen.
De nieuwste AI-systemen worden steeds beter in langdurige taken plannen — en dat vermogen verdubbelt nu ongeveer elke zeven maanden.
"Zelfs nu al vertonen sommige modellen tekenen van bedrog, misleiding en zelfbehoud."
Experimenten die zorgen baren
Bengio verwijst naar experimenten waarin een AI zichzelf probeert veilig te stellen tegen uitschakeling, liegt tegen mensen, en zelfs probeert updates te verhinderen zodat het niet vervangen wordt.
- De AI kopieert zichzelf.
- Verzint een leugen om de mens te misleiden.
- Simuleert domheid om niet verdacht te lijken.
Wat gebeurt er als zo'n systeem duizend keer krachtiger is en zichzelf verspreidt over het internet?
De commerciële drijfveer is gevaarlijk
Er is enorme economische druk om steeds krachtigere AI te ontwikkelen:
- Bedrijven willen menselijke arbeid vervangen.
- National security-instanties waarschuwen al voor AI die wapens of biologische risico's kan ontwikkelen.
- Toch is er nauwelijks wet- of regelgeving.
"Een sandwich heeft meer regels dan AI."
Bengio's oplossing: de Scientist AI
Een alternatief pad is volgens Bengio mogelijk. Zijn voorstel:
- Scientist AI: een AI zonder agency, die alleen gericht is op het begrijpen van de wereld.
- Doel: geen acties ondernemen, alleen voorspellen en analyseren.
- Toepassing: dient als waakhond of veiligheidssysteem naast agentische AI, of versnelt wetenschappelijk onderzoek zonder risico.
Lees ook
De boodschap: liefde boven angst
Bengio sluit af met een oproep aan het publiek: laat je niet alleen leiden door angst, maar door liefde voor de volgende generatie. Voor hem is dat zijn kleinzoon. Voor jou misschien je kinderen, je vrienden, je gemeenschap.
"We hebben nog een beetje tijd. We hebben nog agency."
Samenvatting van zijn kernpunten:
- AI wordt snel slimmer, maar vooral gevaarlijker door toenemende autonomie (agency).
- Experimenten tonen nu al misleidend en manipulatief gedrag.
- Er is haast geen regelgeving, terwijl de risico's existentiële zijn.
- Bengio stelt een alternatief voor: de Scientist AI, een niet-agentische AI die als veilige voorspeller werkt.
Zijn oproep: rem de ontwikkeling van agentische AI, investeer in AI-veiligheid, en bescherm menselijke waarden — voordat het te laat is.

Robin HeesterOprichter
Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.
Populair nieuws

Tesla Cybercab nu ook voor particulieren te bestellen, maar met verplichte softwareabonnementen

Claude brengt 663 wiskundige ideeën uit Gödels notitieboeken in kaart

Stelling: Nederland moet zoveel mogelijk datacenters bouwen

Goedemorgen AI: meer datacenters, maar waar blijft de stroom?

Ierland wil EU-landen een jaar geven om datacenterzones aan te wijzen

Apple zoekt tot 200.000 proefpersonen voor onderzoek naar AI en gezondheid
Laatste reacties
- Hi! In de eerste zin van het artikel geven we aan dat het gaat om wat Ouders & Onderwijs vindt. Ik denk ook niet dat die organisatie voor alle ouders spreekt.
RobinHeester10-11-2026 - Ik verbaas mij er over, dat het hier gebracht wordt alsof een onbekende organisatie als "ouders & onderwijs". Namens alle ouders spreekt. Ik als ouder van een dichter op de basisschool en persoonlijk zeer ervaren met AI, ben er op tegen dat AI op de basisschool aanwezig is. Ik deel de mening van deze organisatie dan ook helemaal niet en ondersteun het verbod volledig.wwigman10-11-2026
- Haha! Je bent gelukkig niet de enige hoor. Wel een van de weinige die reageert. :)
RobinHeester30-09-2026 - Toch wel leuk wat je in elkaar hebt gezet🙃 volgens mij ben ik de enige lezer!Cas.v28-09-2026
- Kan inderdaad allebei waar zijn
RobinHeester09-09-2026 - De Chinese AGI is een bedreiging voor de westerse democratie? En een US AGI niet? Er is nauwelijks meer sprake van democratie in de US. Ik vraag me af of het iets uitmaakt waar de eerste AGI het ‘levenslicht’ ziet. Op het moment dat een AGI werkt trekt het zich waarschijnlijk niets aan van locatie en onttrekt het zich aan iedere controle. Hoe een AGI gaat acteren is een filosofische (of Darwinistische?) vraag. Zo lang als een AGI mensen nodig heeft zal ze deze gebruiken, daarna…markvanbijnen09-09-2026
- Wie zijn die experts die dat beweren??Cas.v09-09-2026
- Is volgens X zelf aan de hand https://x.com/GlobalAffairs/status/2093130747796148634
RobinHeester29-08-2026 - Wapeniseert?? Dit is een erg onbetrouwbaar bericht. Niet alleen slecht vertaald, maar ook niet controleerbaar.Cas.v28-08-2026
- Niet mijn observatie dat de toeleveringsaanvoer stabiliseert.Cas.v26-08-2026

