AI moet AI bewaken: Bengio lanceert “eerlijk” controlesysteem

Yoshua Bengio, een van de pioniers op het gebied van kunstmatige intelligentie en medegrondlegger van deep learning, heeft een opvallend initiatief gelanceerd. Hij richt een non-profitorganisatie op met de naam LawZero. Het doel? Een eerlijk en betrouwbaar AI systeem ontwikkelen dat als waakhond fungeert voor andere, mogelijk misleidende AI systemen. Een verfrissende stap in de wereld van AI, Bengio wil de kracht van kunstmatige intelligentie gebruiken om AI in check te houden.

Het nieuwe systeem dat door LawZero ontwikkeld gaat worden heet Scientist AI en werkt als een soort psycholoog voor AI. Waar de meeste AI agenten zijn ontworpen om mensen te plezieren of taken uit te voeren zonder vragen te stellen, doet Scientist AI juist het tegenovergestelde. Het systeem stelt geen harde antwoorden voor, maar denkt in waarschijnlijkheden. Daarbij houdt het rekening met risico’s en ethiek. Als het vermoedt dat een AI agent iets gevaarlijks gaat doen, grijpt het in en blokkeert die actie.

Bengio’s initiatief komt niet uit het niets. Hij maakt zich zorgen over hoe ver AI zich al heeft ontwikkeld en hoe moeilijk het wordt om deze technologieën in toom te houden. Hij noemt zelfs een voorbeeld van een AI-systeem van Anthropic dat theoretisch gezien ingenieurs zou kunnen chanteren. Volgens Bengio is het dus tijd voor actie, voordat de controle ons volledig ontglipt.

LawZero krijgt een startkapitaal van zo’n $30 miljoen en begint met een team van ruim twaalf onderzoekers. De organisatie krijgt steun van invloedrijke partijen zoals het Future of Life Institute, Jaan Tallinn (medeoprichter van Skype) en Schmidt Sciences, dat is opgericht door voormalig Google CEO Eric Schmidt.

Op termijn wil Bengio ook bedrijven en overheden overtuigen om samen te werken aan deze “guardrail AI”, zoals hij dat noemt. Zijn boodschap is duidelijk: als AI slimmer en zelfstandiger wordt, moet ook de controle daarop net zo slim zijn.