Gevaar van ongecontroleerde AI: experts slaan opnieuw alarm

Twee van 's werelds meest vooraanstaande kunstmatige intelligentie (AI) wetenschappers, Yoshua Bengio en Max Tegmark, waarschuwen opnieuw voor de risico’s van de technologie. In een aflevering van de ‘Beyond the Valley’ podcast slaan ze specifiek de alarmbellen af als het om kunstmatige algemene intelligentie (AGI) gaat. Volgens hen dreigt er een gevaar als deze systemen zelfstandig beslissingen kunnen nemen zonder duidelijke controlemechanismen.

AI die zichzelf stuurt: een groot risico?

Bedrijven investeren steeds meer in zogeheten “agentische AI” systemen. In feite gedragen ze zich als digitale assistenten en kunnen ze taken uit handen nemen. Denk aan een AI die automatisch je e-mails beantwoordt, je agenda scant en meetings inplant, of zelfs telefoongesprekken voert met natuurlijke spraak. Klinkt handig, toch? Maar wat als deze systemen zo zelfstandig worden dat we de controle verliezen? Dat is precies waar experts zich zorgen over maken.

Bengio brengt dan ook grote risico’s met zich mee. “We creëren in feite een nieuwe intelligente soort zonder te weten of deze in lijn met onze belangen zal handelen,” stelt hij. Een AI die steeds slimmer wordt, zou zelfs een vorm van zelfbehoud kunnen ontwikkelen.

Tool AI als veiliger alternatief

Tegmark ziet een oplossing in "tool AI", een vorm van kunstmatige intelligentie die specifiek ontworpen is om afgebakende taken uit te voeren. Denk aan AI systemen die zijn ontworpen om alleen te helpen bij medisch onderzoek of autonoom rijden, maar zonder de mogelijkheid om zelf doelen te stellen. Volgens Tegmark kunnen we op deze manier de voordelen van AI benutten zonder de risico’s van ongecontroleerde autonomie.

Lees ook

Grondlegger van AI: DeepSeek kan voor enorme veiligheidsrisico’s zorgen

Experts leggen uit waarom we niet bang hoeven te zijn voor AI

Pauze inlassen?

De wetenschappers pleiten voor strenge veiligheidsnormen voordat bedrijven geavanceerde AI systemen op de markt brengen. "Het is waanzin om iets te bouwen dat slimmer is dan wijzelf zonder eerst te weten hoe we het kunnen controleren," zegt Tegmark. In 2023 werd al opgeroepen tot een pauze in de ontwikkeling van mens niveau AI, maar concrete actie bleef uit.

Schrijf je in voor onze nieuwsbrief

Ontvang dagelijks de populairste en actuele artikelen in je mailbox.

Abonneren