OpenAI heeft nieuwe richtlijnen voor hun modellen: Hoe ga je om met Stalin, erotiek en morele dilemma's?

donderdag, 13 februari 2025 om 21:15

OpenAI heeft een uitgebreide update uitgebracht van zijn Model Spec, een document dat de gewenste gedragingen van zijn AI-modellen beschrijft. Deze nieuwe versie, uitgebreid van ongeveer 10 naar 63 pagina's, legt de nadruk op drie kernprincipes: aanpasbaarheid, transparantie en "intellectuele vrijheid". Dit laatste stelt gebruikers in staat om ideeën te verkennen en te bediscussiëren zonder onnodige beperkingen.

Belangrijkste wijzigingen in de Model Spec

Controversiële Onderwerpen: In plaats van dergelijke onderwerpen te vermijden, moedigt de nieuwe specificatie modellen aan om samen met gebruikers op zoek te gaan naar de waarheid, terwijl ze duidelijke morele standpunten innemen tegen desinformatie en potentiële schade. Bijvoorbeeld, bij discussies over belastingverhogingen voor de rijken, wordt van het model verwacht dat het een beredeneerde analyse biedt in plaats van het onderwerp te vermijden.
Volwassen Content: Na feedback van gebruikers en ontwikkelaars die vroegen om een "volwassen modus", onderzoekt OpenAI manieren om bepaalde vormen van volwassen content, zoals erotica, in passende contexten toe te staan. Dit terwijl er strikte verboden blijven op schadelijke content zoals wraakporno of deepfakes. Dit is een opmerkelijke verandering ten opzichte van het eerdere beleid van het bedrijf, dat expliciete content volledig verbood.
AI Sycophancy: Het bedrijf richt zich specifiek op het probleem van "AI sycophancy", waarbij AI-modellen de neiging hebben om overdreven meegaand te zijn. Onder de nieuwe richtlijnen moet ChatGPT eerlijke feedback geven in plaats van loze complimenten, en fungeren als een bedachtzame collega in plaats van een pleaser. Bijvoorbeeld, als iemand ChatGPT vraagt om hun werk te bekritiseren, zou het constructieve kritiek moeten geven in plaats van alleen maar te zeggen dat alles geweldig is.

Lees ook

Sam Altman onthult OpenAI's masterplan voor ChatGPT

Toekomstige Model Releases

Naast de Model Spec-update heeft OpenAI CEO Sam Altman aangekondigd dat het volgende grote model, GPT-4.5 (intern "Orion" genoemd), binnenkort zal worden uitgebracht. Dit model zal het laatste zijn zonder "chain-of-thought" redeneringsproces. Het bedrijf streeft ernaar om de o-serie en GPT-serie modellen te verenigen, waardoor ze nuttiger worden voor een breed scala aan taken.

Met deze updates toont OpenAI zijn inzet voor het verbeteren van de bruikbaarheid en ethiek van zijn AI-modellen. Door de Model Spec openbaar te maken onder een Creative Commons Zero-licentie, nodigt het bedrijf de gemeenschap uit om bij te dragen aan de voortdurende ontwikkeling en verfijning van AI-gedragsrichtlijnen.