OpenAI stopt met missie-afstemmingsteam

OpenAI heeft zijn interne missie-afstemmingsteam ontbonden. Dit was een groep onderzoekers en ingenieurs waarvan het werk draaide om de missie van het bedrijf uit te leggen en te ondersteunen, in het bijzonder rond het idee dat kunstmatige algemene intelligentie ten goede moet komen aan de mensheid. Het team bestond uit zo’n zes of zeven mensen, en hun voormalige leider is nu benoemd tot “chief futurist”, met een rol waarin hij moet nadenken over de lange termijn effecten van AI op de wereld. De overige teamleden zijn herplaatst in andere delen van het bedrijf waar zij soortgelijk werk zouden blijven doen, maar niet meer als een aparte eenheid functioneren, volgens TechCrunch.

Het missie-afstemmingsteam werd in 2024 opgericht met het doel om intern en extern te communiceren over OpenAI’s missie en om te werken aan veilige, betrouwbare AI-ontwikkeling. In brede termen hield dat in dat het team onderzoek deed naar methoden om AI-systemen te laten functioneren zoals bedoeld, zelfs in complexe of risicovolle situaties. Dit type werk omvatte technieken om modellen robuust te maken, ze opzettelijk te testen op fouten of ongewenst gedrag en manieren te ontwikkelen om ervoor te zorgen dat ze menselijke intenties beter volgen. Het team greep daarmee in op vragen waar AI-modellen anders automatisch hun eigen koers kunnen varen.

Josh Achiam, die het missie-afstemmingsteam leidde, is nu aangesteld als chief futurist bij OpenAI. In die functie richt hij zich op het onderzoeken van wat AI, en dan met name kunstmatige algemene intelligentie, kan betekenen voor de wereld op de lange termijn. Achiam zegt dat hij wil helpen begrijpen hoe samenlevingen kunnen veranderen door AI en wat er nodig is om die transitie te ondersteunen. Hij werkt daarbij samen met andere onderzoekers binnen OpenAI, waaronder een fysicus die al eerder betrokken was bij technische vooruitzichten van het bedrijf.

OpenAI zegt dat het werk van het voormalige team voortgezet wordt binnen andere onderdelen van het bedrijf. In plaats van een aparte afdeling die zich specifiek bezighoudt met missie en afstemming, worden de verantwoordelijkheden verspreid over productteams en andere onderzoeksgroepen. Volgens sommige observaties is dit een manier om integratie van veiligheid en missie in de dagelijkse ontwikkeling van AI-systemen te bevorderen. Door experts te plaatsen middenin de teams die de modellen bouwen of toepassen, kan hun werk directer invloed hebben op wat er ontwikkeld wordt.

De ontbinding van het missie-afstemmingsteam komt nadat OpenAI eerder al een ander team had opgeheven dat zich bezighield met superalignment, een meer technologisch gericht veiligheidsonderzoek. Dat team was bedoeld om te focussen op risico’s van zeer krachtige AI-systemen en werd rond 2024 stopgezet na het vertrek van enkele sleutelfiguren. De recente veranderingen tonen hoe OpenAI zijn interne structuren aanpast naarmate het bedrijf groeit en zich ontwikkelt van een onderzoeksgericht project naar een organisatie die grote AI-modellen commercieel uitrolt.