Sam Altman waarschuwt voor ChatGPT Agent: ‘Snuffel aan de toekomst, maar wees voorzichtig’

OpenAI-topman Sam Altman spreekt zich uit over de nieuwe ChatGPT Agent. Volgens hem is het systeem een “baanbrekende” stap richting kunstmatige algemene intelligentie (AGI), maar hij benadrukt ook de risico’s. “Ik zou dit niet gebruiken voor gevoelige informatie. Nog niet,” aldus Altman.

Sam Altman, CEO van OpenAI, noemt de nieuwe ChatGPT Agent “een nieuw niveau van AI-capaciteit” dat in staat is om “complexe taken zelfstandig uit te voeren op zijn eigen computer”. Volgens hem gaat het om meer dan een bundeling van bestaande tools zoals de Operator-agent of Deep Research-functie. De Agent kan volgens Altman namelijk:

In een interne demonstratie liet OpenAI zien hoe de AI een bruiloft voorbereidde: van kleding kopen tot reis boeken en cadeaus kiezen. Ook werd getoond hoe Agent data analyseerde en een werkpresentatie maakte zonder handmatige input.

Altman erkent dat het systeem veel kan, maar waarschuwt tegelijkertijd voor de risico’s. “We hebben meer waarborgen ingebouwd dan ooit tevoren”, stelt hij. Denk aan robuuste trainingsprocedures, systeemwaarborgen en gebruikersinstellingen. Toch sluit hij misbruik of fouten niet uit.

Een kernadvies van Altman is om de Agent “alleen het minimale noodzakelijke toegangsniveau te geven”. Voorbeeld: toegang tot je agenda is logisch voor het plannen van een diner, maar e-mails laten doorzoeken en acties laten uitvoeren zonder verdere instructie noemt hij riskant. Een kwaadaardige e-mail zou via een omweg gevoelige data kunnen lekken.

“Ik zou mijn eigen familie uitleggen dat dit experimenteel is. Een kans om aan de toekomst te ruiken, maar nog niet geschikt voor vertrouwelijke toepassingen.”

Altman noemt het observeren van ChatGPT Agent in actie “een echt feel the AGI-moment”. Het idee dat de AI zelfstandig denkt, plant en uitvoert via een virtuele computer geeft volgens hem een totaal nieuwe ervaring. Hoewel het systeem nog geen AGI (kunstmatige algemene intelligentie) is, ziet hij het wel als een belangrijke stap richting die toekomst.

OpenAI kiest daarom bewust voor een stapsgewijze uitrol. Gebruikers krijgen waarschuwingen en instellingen waarmee ze de machtiging van de Agent kunnen beperken. Ook benadrukt Altman dat het systeem vooral moet worden getest in gecontroleerde scenario’s, om het veilig te kunnen verbeteren op basis van praktijkervaring.

De boodschap van Altman is dubbel: enerzijds is er sprake van een revolutionair AI-systeem dat autonoom werkt. Anderzijds is er een duidelijke oproep tot voorzichtigheid en bewust gebruik. Volgens hem moeten technologie, gebruikers en regelgeving samen ontwikkelen om de risico’s beheersbaar te houden.