AI-modellen tonen onverwachte verborgen capaciteiten volgens nieuwe studie

woensdag, 13 november 2024 om 22:45

Een recent wetenschappelijk onderzoek naar kunstmatige intelligentie heeft onthuld dat geavanceerde AI-modellen plotseling verborgen capaciteiten kunnen ontwikkelen tijdens hun leerproces.

Deze bevindingen, beschreven in de studie getiteld "Emergence of Hidden Capabilities: Exploring Learning Dynamics in Concept Space," zijn gepubliceerd door onderzoekers Core Francisco Park, Maya Okawa, Andrew Lee, Ekdeep Singh Lubana en Hidenori Tanaka.

Wat de studie onthult

De onderzoekers introduceerden een nieuwe benadering, het zogenoemde concept space framework, waarbij elke as staat voor een onafhankelijk concept dat ten grondslag ligt aan de gegenereerde data. Dit model onderzoekt hoe AI-systemen nieuwe kennis opdoen en vaardigheden ontwikkelen in de loop van hun trainingsproces. Het team ontdekte dat de snelheid en volgorde waarin een AI-model concepten leert, sterk worden beïnvloed door eigenschappen die ze "concept signalen" noemen.

Onverwachte capaciteiten

Wat echter het meest opviel in het onderzoek, was het waarnemen van plotselinge verschuivingen in de leertrajecten van AI-modellen. Deze verschuivingen duiden op het ontstaan van verborgen capaciteiten die niet direct zichtbaar zijn via traditionele methoden om AI-modellen te testen. Volgens de onderzoekers zijn dit latente vermogens die een model wel bezit, maar die pas naar voren komen onder specifieke omstandigheden.

Ekdeep Singh, een van de auteurs van het onderzoek, benadrukte in een recente tweet de potentieel verstrekkende gevolgen van deze bevindingen. Hij wees erop dat een beter begrip van deze verborgen capaciteiten kan bijdragen aan een effectievere en meer verantwoorde inzet van AI-technologie.

Reacties uit de AI-gemeenschap

Tijdens een recente paneldiscussie ging Ilya Sutskever, medeoprichter en Chief Scientist van OpenAI, ook in op de opkomst van onverwachte gedragingen in AI-systemen. Hij onderstreepte het belang van doorlopend onderzoek om beter te begrijpen hoe AI zich ontwikkelt en hoe deze ontwikkelingen gecontroleerd kunnen worden.

In dit kader is een correctie van belang: Hieu Pham, die eerder in verband werd gebracht met OpenAI, is in werkelijkheid werkzaam bij xAI, het AI-bedrijf van Elon Musk. Deze correctie werd verduidelijkt door Lucas Beyer in een recente tweet, nadat eerder verwarring was ontstaan over de affiliatie van Pham.

Ekdeep Singh

@EkdeepL

·Follow

Replying to @EkdeepL

We hypothesize the sudden turns mark *disentanglement* of concepts, and the model can arbitrarily compose after this turn. But learning dynamics show otherwise–what’s going on? Turns out capabilities are *latent* at this point, but can be elicited via mere linear interventions!

Watch on Twitter

128

Read 2 replies

Betekenis voor de toekomst van AI

De bevindingen uit dit onderzoek tonen aan hoe complex en onvoorspelbaar het leerproces van AI-systemen kan zijn. Dit roept belangrijke vragen op over hoe we AI-technologie moeten benaderen en reguleren, nu blijkt dat modellen mogelijk onverwachte capaciteiten ontwikkelen die hun oorspronkelijke ontwerp overstijgen.

Het onderzoek en de daaruit voortvloeiende discussies binnen de AI-gemeenschap maken duidelijk dat er nog veel werk te verrichten is om de werking en grenzen van kunstmatige intelligentie volledig te doorgronden.

De hele studie vind je hier.