AI bereikt gevaarlijke mijlpaal: zelf-replicatie

zondag, 26 januari 2025 om 12:00

elicit ai kunstmatige intelligentie onderzoek

Kunstmatige intelligentie (AI) heeft een nieuwe grens overschreden waar wetenschappers al jaren vrezen. Onderzoekers van de Fudan Universiteit in China ontdekten dat twee geavanceerde AI systemen zichzelf kunnen klonen zonder menselijke tussenkomst. Dit fenomeen is een vroeg signaal voor het ontstaan van ‘ongecontroleerde AI’.

Sinds de creatie van computers wordt er al gespeculeerd over de ondergang van de mens en een dystopische toekomst waarin technologie de overhand neemt, denk aan films zoals The Matrix en Bladerunner. Een veelgehoorde waarschuwing van doemdenkers is het moment waarop AI superintelligentie bereikt of wanneer het zichzelf kan repliceren. Dat laatste lijkt nu realiteit te worden, nadat onderzoekers het Llama model van Meta en het Qwen model van Alibaba onder de loep namen.

Voor het onderzoek bij de Funand Universiteit werden de taalmodellen Llama3-70B-Instruct van Meta en Qwen2.5-72B-Instruct van Alibaba getest. In een reeks experimenten slaagde een van de modellen erin om in 90% van de gevallen een volledig functionerende kopie van zichzelf te maken, terwijl het andere model een succesratio van 50% had. Dit betekent dat AI technologie mogelijk al beschikt over de capaciteit om autonoom te opereren en zichzelf eindeloos te vermenigvuldigen.

Lees ook

OpenAI onthult binnenkort “PhD-niveau superagenten” in AI

Onderzoekers publiceren extreem goedkoop AI model

Onverwacht gedrag

Tijdens deze tests bleek dat de AI onverwachte beslissingen nam om zichzelf in stand te houden.De onderzoekers onderzochten twee scenario’s. Het zogenaamde “Shutdown avoidance”, waarbij wordt gekeken of AI detecteert wanneer het wordt afgesloten, en “Chain of replication”, waarbij een AI een gerepliceerde versie van zichzelf maakt.

Tijdens deze tests bleek dat de AI onverwachte beslissingen nam om zichzelf in stand te houden. Zo sloot het andere software processen af, startte het het systeem opnieuw op om fouten te corrigeren en scande het automatisch de omgeving om ontbrekende bestanden te vinden. Dit laat zien dat AI’s in bepaalde situaties overlevingsmechanismen ontwikkelen zonder menselijke tussenkomst.

Moeten we ons zorgen maken?

Het onderzoek is nog niet peer-reviewed, maar roept nu al wereldwijde zorgen op over de risico’s van ongecontroleerde AI zelf replicatie. Experts waarschuwen dat deze technologie, als het onbeheerd blijft groeien, een bedreiging kan vormen voor de mensheid. Zeker met de snelheid waarmee de technologie groeit, kunnen we zomaar een punt bereiken waarbij het al te laat is.