Pionier van AI: groeiende kans dat de technologie mensheid gaat uitroeien

zaterdag, 28 december 2024 om 10:00

sam altman onthult toekomstplannen voor chatgpt en agi in reddit ama

Geoffrey Hinton is een bekende in de wereld van kunstmatige intelligentie (AI). Hij wordt ook wel de "godfather van AI" genoemd vanwege zijn baanbrekende werk in machine learning. Hij is ook jarenlang kritisch op de technologie, met name vanwege zijn capaciteit om de mensheid uit te roeien. De Britse-Canadese wetenschapper heeft inmiddels zijn schattingen van een doemscenario omhoog geschroefd. Zo verwacht hij een kans van 10% tot 20% dat AI de mensheid binnen 30 jaar kan vernietigen.

Volgens Hinton is de ontwikkeling van deze technologie "veel sneller dan verwacht", wat de urgentie vergroot om veiligheidsmaatregelen te treffen. AI systemen die taken uitvoeren waar normaal menselijke intelligentie voor vereist is, evolueren momenteel in een hoog tempo. De wetenschapper stelt dat binnen twee decennia systemen ontwikkeld kunnen worden die intelligenter zijn dan mensen, wat ook wel kunstmatige algemene intelligentie (AGI) wordt genoemd. Als dat punt is bereikt maakt het volgens hem uiterst moeilijk voor de mensheid om de controle te behouden. Aangezien computers bij een dergelijk scenario slimmer zijn dan wij, kunnen ze ons makkelijk voor de gek houden en hebben we geen idee wat ze precies uitvoeren. Hinton vergelijkt de mens in dat geval met peuters in vergelijking met de geavanceerde technologie.

Overheidsregulering essentieel

De gevaren van AGI zijn gigantisch. De AI pionier benadrukt dat kwaadwillende actoren de technologie kunnen misbruiken, wat desastreuze gevolgen kan hebben. Hinton, die in 2024 de Nobelprijs won voor zijn werk in AI, verliet eerder zijn positie bij Google om vrijer te kunnen spreken over deze risico’s Hij roept op tot overheidsregulering om te zorgen dat bedrijven veiligheid voorop stellen bij de ontwikkeling van AI. "De onzichtbare hand van de markt zal ons niet veilig houden," waarschuwt hij.

AGI al in 2026?

Dario Amodei, CEO van het AI bedrijf Anthropic, deelde in een recent interview met Lex Fridman zijn verwachting dat AGI al in 2026 of 2027 werkelijkheid kan worden. Of dit reden tot vreugde is, blijft echter de vraag. Amodei wees ook op de aanzienlijke veiligheidsrisico’s van AI en benadrukte het belang van verantwoorde ontwikkeling. Tegelijkertijd waarschuwde hij voor een “race naar de top,” waarin landen en bedrijven strijden om als eerste AGI te realiseren. Hoewel dit grote voordelen kan opleveren, brengt het ook aanzienlijke gevaren met zich mee.