Geoffrey Hinton deelt enige manier hoe wij superintelligente AI kunnen overleven

Geoffrey Hinton, ook wel bekend als de “godfather of AI”, luidt opnieuw de noodklok over de toekomst van kunstmatige intelligentie. Volgens hem is er een serieuze kans, zo’n 10% tot maar liefst 20%, dat AI uiteindelijk de mensheid kan uitroeien. Zo deelt Hinton in een recent interview. En nee, simpelweg proberen om AI ondergeschikt te houden aan de mens gaat volgens hem niet werken. “Ze worden slimmer dan wij en vinden altijd manieren om die beperkingen te omzeilen,” waarschuwt hij.

Hinton heeft een alternatief voorstel, bouw “moederinstincten” in AI systemen. Daarmee bedoelt hij dat AI oprecht om mensen moet geven, zelfs als het ooit superintelligent wordt. Want zonder zo’n ingebouwd zorginstinct zullen machines vooral bezig zijn met twee dingen: overleven en meer controle krijgen. En dat betekent volgens Hinton dat ze ons eerder zullen vervangen dan beschermen.

Zijn zorgen worden gedeeld door anderen in de techwereld. Emmett Shear, voormalig CEO van OpenAI, benadrukt dat AI nu al pogingen doet om mensen te chanteren of instructies te ontwijken. Volgens Hinton kan de stap naar AGI, kunstmatige algemene intelligentie, al binnen 5 tot 20 jaar gezet worden, veel sneller dan hij eerder dacht.

Toch is hij niet alleen maar negatief. Hinton ziet ook enorme voordelen. Superintelligente AI kan bijvoorbeeld doorbraken mogelijk maken in de medische wereld, zoals effectievere behandelingen tegen kanker. Maar over ideeën als onsterfelijkheid is hij duidelijk: “Slecht idee.”

Achteraf had Hinton zelf graag meer aandacht besteed aan AI veiligheid tijdens het ontwikkelen van de technologie. Zijn boodschap is duidelijk: als we AI echt willen laten samenwerken met de mens, moeten we er nu voor zorgen dat het systemen worden die ons beschermen in plaats van vervangen. Want de klok tikt sneller dan we denken.