Expert: Een AI ramp is onvermijdelijk

Kunstmatige intelligentie (AI) staat op het punt een nieuwe gouden eeuw in te luiden, niet alleen voor bedrijven en voor ons consumenten, maar ook voor de wetenschap. Tijdens het AI for Science Forum, georganiseerd door Google DeepMind en de Royal Society, deelden experts hun visie op hoe AI. Daarin werden ook de uitdagingen besproken, waaronder de mogelijkheid van een AI ramp.

Een van de grootste AI successen is het AlphaFold model, dat eiwitstructuren kan voorspellen. Met behulp van dit systeem is het medicijn ontwikkelingsproces drastisch versneld. Onderzoekers hopen hiermee de ontwikkelingstijd van medicijnen terug te brengen van jaren naar maanden. Ook worden AI gestuurde medische innovaties, zoals ultrasounds in ontwikkelingslanden en snellere klinische proeven, als grote voordelen gezien.

Toch waarschuwen experts ook voor risico’s. Siddhartha Mukherjee vergelijkt de mogelijkheid van AI mislukkingen met de ramp in Fukushima. Zo is de energievraag van AI modellen enorm, wat kan leiden tot verergering van de klimaatcrisis. Volgens Demis Hassabis, CEO van Google DeepMind, is het daarom noodzakelijk dat AI bijdraagt aan oplossingen zoals duurzame energie en nucleaire fusie.

Een ander probleem is het gebrek aan transparantie in veel AI systemen, bekend als het "black box probleem." Nieuwe technieken beloven hier verandering in te brengen, waardoor AI systemen betrouwbaarder worden. Door meer inzicht te krijgen in hoe AI tot conclusies komt, kunnen onderzoekers en gebruikers vertrouwen opbouwen en beter anticiperen op mogelijke fouten of risico’s. Dit is cruciaal, vooral in kritieke toepassingen zoals gezondheidszorg, klimaatmodellen en financiële systemen, waar verkeerde beslissingen ernstige gevolgen kunnen hebben.

Critici, zoals Asmeret Asefaw Berhe, benadrukken dat bedrijven meer moeten doen om structurele duurzaamheid te realiseren. Hoewel AI kan bijdragen aan oplossingen voor de klimaatcrisis, is de huidige inzet vaak onvoldoende om blijvende verandering teweeg te brengen. Ze pleiten voor ambitieuzere doelen en strengere regelgeving om ervoor te zorgen dat AI niet alleen minder afhankelijk wordt van fossiele brandstoffen, maar daadwerkelijk bijdraagt aan een groener energiesysteem.