Harry en Meghan sluiten zich aan bij oproep om superintelligente AI te verbieden

De hertog en hertogin van Sussex, Harry en Meghan, mengen zich opnieuw in het wereldwijde debat over kunstmatige intelligentie. Dit keer niet over deepfakes of sociale media, maar over iets veel fundamentelers: de mogelijke komst van superintelligente AI systemen. Samen met enkele van de grootste namen uit de techwereld en wetenschap roepen ze op tot een verbod op de ontwikkeling van zulke systemen, voorlopig althans.

Volgens de ondertekenaars moet de ontwikkeling van zogenaamde “Artificial Superintelligence” (ook wel afgekort tot ASI) worden stilgelegd totdat er wereldwijd consensus bestaat dat deze technologie veilig, controleerbaar en verantwoord ontwikkeld kan worden. Ook moet er brede steun zijn van het publiek voordat bedrijven of overheden met zulke systemen aan de slag gaan.

De oproep komt niet van de minsten. Onder de honderden ondertekenaars bevinden zich AI pioniers als Geoffrey Hinton en Yoshua Bengio, de zogenaamde “godfathers” van moderne AI, en bekende namen als Apple oprichter Steve Wozniak, ondernemer Richard Branson, voormalig Ierse president Mary Robinson en acteur Stephen Fry.

De verklaring is georganiseerd door het Future of Life Institute (FLI), een organisatie die eerder al waarschuwde voor de risico’s van onbeheersbare AI. In 2023 riep FLI al op tot een tijdelijke pauze in de ontwikkeling van krachtige AI systemen. Nu gaat het instituut een stap verder met een openlijk pleidooi voor een verbod, uit angst dat superintelligente AI binnen tien jaar realiteit wordt.

Volgens FLI kan zo’n super intelligent systeem niet alleen banen en privacy bedreigen, maar ook nationale veiligheid en zelfs het voortbestaan van de mensheid. Uit een peiling van het instituut blijkt dat 75% van de Amerikanen strengere AI regelgeving wil en 60% vindt dat superintelligente AI pas ontwikkeld mag worden als het veilig kan. Slechts 5% steunt de huidige, ongeremde ontwikkeling volgens het onderzoek.