AI legende waarschuwt voor de “krachtige monsters” die we creëren

Yoshua Bengio, die in de wereld van kunstmatige intelligentie (AI) een legende is voor zijn werk op het gebied van neurale netwerken en deep learning, waarschuwt voor de toenemende gevaren van AI technologie.

Bengio deelde in een recent interview met Yahoo Finance zijn visie over de toekomst van AI. Zijn werk heeft de basis gelegd voor veelgebruikte AI modellen zoals OpenAI's ChatGPT, maar nu maakt hij zich zorgen over de mogelijke gevaren van de technologie. De gevaren van AI zijn reëel, en volgens Yoshua Bengio moeten zowel overheden als technologiebedrijven samenwerken om rampen te voorkomen.

Volgens Bengio ligt het grootste gevaar in de mogelijkheid dat AI systemen autonoom worden en zich tegen ons kunnen keren. Hij stelt dat als deze technologie in verkeerde handen valt, dit ernstige gevolgen kan hebben, zoals het ondersteunen van terrorisme of het destabiliseren van democratische samenlevingen.

Grote techbedrijven zoals OpenAI en Google zijn verwikkeld in een race naar algemene kunstmatige intelligentie (AGI), waarbij de veiligheid van het publiek een bijzaak dreigt te worden. Bedrijven stellen economische belangen voorop en houden weinig rekening met de gevolgen van hun innovaties.

Bengio prijst echter het bedrijf Anthropic om zo veilig en transparant mogelijk aan het werk te gaan. Anthropic ondersteunt onder meer de wetgeving zoals de Californische AI wet SB 1047, die meer controle en aansprakelijkheid wil invoeren binnen de AI industrie.

Volgens Yoshua Bengio moeten investeerders voorzichtig zijn met AI-aandelen, ondanks de enorme groei in bedrijven zoals Nvidia, omdat er risico's zijn verbonden aan een ongecontroleerde ontwikkeling van kunstmatige intelligentie. Hoewel de langetermijnvooruitzichten voor AI positief lijken, waarschuwt hij dat eerder genoemde gebrek aan regulering en veiligheid kan leiden tot rampzalige gebeurtenissen, wat een terugslag in de samenleving en de economie zou kunnen veroorzaken. Dit zou ervoor zorgen dat AI gerelateerde markten instorten, wat slecht zou zijn voor investeerders.