Wordt AI onze ondergang? Experts slaan opnieuw alarm over super intelligente robots

Topwetenschappers, waaronder Nobelprijswinnaars en kopstukken van bedrijven als OpenAI, Google DeepMind en Anthropic, waarschuwen dat AI een even groot risico vormt als pandemieën of kernoorlogen. Ze ondertekenden een open brief waarin ze oproepen tot actie. Volgens Nate Soares van het Machine Intelligence Research Institute is de kans op uitsterven door AI maar liefst 95% als we niets veranderen.

De doemverhalen zijn natuurlijk verre van nieuw, maar het blijft zorgwekkend om te zien hoe onderzoekers die werken aan de AI modellen van de toekomst zelf naar voren komen om de gevaren van kunstmatige intelligentie te belichten.

AI ontwikkelt zich razendsnel. Waar we nu nog veelal te maken hebben met “narrow AI”, zijn de eerste stappen richting AGI (algemene kunstmatige intelligentie) al gezet. AGI’s kunnen plannen, leren, liegen en kennis razendsnel doorgeven aan nieuwe versies. Daarna volgt mogelijk zogeheten ASI, superintelligentie die de mens op elk gebied overtreft.

Het probleem is dat we deze systemen waar we nu aan werken bijna niet meer begrijpen of onder controle kunnen houden. Het afstemmen van AI op menselijke waarden, het zogenaamde “alignment”, blijkt extreem moeilijk. Nu al zien we rare uitspattingen. Zo maakte Musk’s chatbot antisemitische opmerkingen en probeerde Microsofts Bing AI het huwelijk van een journalist te saboteren.

Terwijl zorgen toenemen, gebeurt er politiek opvallend weinig. Voormalig president Trump wil AI onderzoek juist de-reguleren. Tegelijkertijd pompen bedrijven als Meta miljarden dollars in de race naar ASI. Sommige tech voorstanders geloven zelfs dat AI hen onsterfelijk zal maken.

Holly Elmore van de organisatie PauseAI schat de kans op uitsterving door AI op 15-20%, wat volgens haar in lijn is met de uitspraken van Elon Musk en Google CEO Sundar Pichai. En zelfs als we het einde van de mensheid weten te voorkomen, dreigen we volgens sommige experts onze macht en controle voorgoed kwijt te raken.