OpenAI schudt teams door elkaar: nieuwe focus op AI persoonlijkheid

AI bedrijf OpenAI gooit de organisatie opnieuw op de schop. Het zogeheten Model Behavior team, een club van zo’n 14 onderzoekers die zich bezighield met de “persoonlijkheid” van ChatGPT, verhuist naar de grotere Post Training afdeling. Die afdeling staat onder leiding van Max Schwarzer en houdt zich bezig met het verfijnen van modellen nadat de basis is gelegd in de pre-trainingsfase.

Joanne Jang, die het Model Behavior team oprichtte, kiest voor een nieuwe uitdaging. Binnen OpenAI start zij OAI Labs, een kersvers onderzoeks initiatief dat zich richt op het uitvinden van nieuwe manieren waarop mensen met AI kunnen samenwerken. Het gaat daarbij niet alleen om chatbots, maar ook om experimenten waarbij AI kan worden ingezet als hulpmiddel om te denken, creëren, leren en spelen. Een mogelijke samenwerking met industrieel ontwerper Jony Ive, bekend van Apple, staat op de radar, maar Jang begint eerst kleinschalig vanuit vertrouwde onderzoekslijnen.

Het Model Behavior team kreeg de afgelopen jaren veel lof maar ook kritiek. Zo werkte het team aan het terugdringen van zogeheten “sycophancy”: het fenomeen waarbij een AI altijd instemmend reageert, zelfs als het fout zit. Tegelijk moest er een balans worden gevonden in gevoelige kwesties zoals politieke vooringenomenheid en de vraag of AI bewustzijn kan vertonen. Ironisch genoeg leverde dat een nieuwe golf aan kritiek op. Gebruikers vonden GPT-5 minder vleierig, maar tegelijkertijd ook te kil en afstandelijk. Om die reden bracht OpenAI updates uit en stelde het opnieuw oudere modellen, zoals GPT-4o, beschikbaar voor gebruikers.

De veranderingen komen op een moment dat OpenAI steeds meer onder een vergrootglas ligt. Het bedrijf wordt geconfronteerd met een rechtszaak waarin ouders ChatGPT deels verantwoordelijk houden voor de tragische zelfdoding van hun zoon. In dat klimaat is de manier waarop AI met mensen communiceert een heikel punt geworden. Met de oprichting van OAI Labs wil OpenAI laten zien dat er ruimte is voor vernieuwing en experiment, en dat de interactie tussen mens en AI nog lang niet in beton is gegoten.