OpenAI onthult GPT-Red: nieuwe AI traint ChatGPT om hackers te slim af te zijn

vrijdag, 17 juli 2026 om 7:01

OpenAI heeft GPT-Red geïntroduceerd, een nieuw intern AI-model dat speciaal is ontwikkeld om kwetsbaarheden in geavanceerde AI-systemen op te sporen voordat kwaadwillenden daar misbruik van kunnen maken. Volgens OpenAI wordt GPT-Red inmiddels ingezet tijdens de ontwikkeling van GPT-5.6, waardoor het nieuwste model zes keer beter bestand is tegen de zwaarste prompt injection-aanvallen dan de vorige generatie.

De introductie van GPT-Red laat zien dat OpenAI steeds meer inzet op AI die helpt om andere AI veiliger te maken. In plaats van uitsluitend menselijke securityonderzoekers in te zetten, gebruikt het bedrijf nu een geavanceerd taalmodel dat continu probeert zijn eigen systemen aan te vallen. De lessen uit die aanvallen worden vervolgens gebruikt om toekomstige modellen robuuster te maken.

Het doel is simpel: hacks voorkomen waar het kan. Dat is makkelijker gezegd dan gedaan. OpenAI en andere bedrijven zijn een van de meest interessante bedrijven om te targeten.

Wat is GPT-Red?

GPT-Red is een geautomatiseerd red-teamingmodel. Red teaming is een methode waarbij beveiligingsexperts bewust proberen een systeem te misleiden of aan te vallen om kwetsbaarheden te ontdekken voordat cybercriminelen dat doen.

Volgens OpenAI werkt GPT-Red op een vergelijkbare manier als een menselijke aanvaller. Het model bedenkt een aanval, bekijkt hoe een AI-model reageert en past zijn strategie vervolgens aan om nieuwe zwakke plekken te vinden. Dat proces herhaalt zich duizenden keren, waardoor GPT-Red steeds betere aanvallen leert ontwikkelen.

Bescherming tegen prompt injections

OpenAI richt GPT-Red vooral op prompt injections. Daarbij proberen aanvallers verborgen instructies te verstoppen in bijvoorbeeld webpagina's, e-mails, documenten of codebestanden. Wanneer een AI-agent deze informatie verwerkt, kan die ongewenste opdrachten uitvoeren, zoals het versturen van gevoelige gegevens of het uitvoeren van kwaadaardige acties.

Juist omdat AI-assistenten steeds vaker toegang krijgen tot browsers, bestanden, bedrijfsdata en externe applicaties, groeit volgens OpenAI ook het risico op dit soort aanvallen. GPT-Red moet helpen om deze kwetsbaarheden al tijdens de ontwikkeling van nieuwe modellen te ontdekken.

GPT-5.6 aanzienlijk robuuster

OpenAI meldt dat GPT-Red inmiddels onderdeel is van het trainingsproces van GPT-5.6 Sol. Daardoor presteert het nieuwste model aanzienlijk beter op beveiligingstests.

Volgens het bedrijf:

zijn de zwaarste directe prompt injection-aanvallen zes keer minder succesvol dan bij het vorige productiemodel;
slaagt GPT-5.6 Sol voor meer dan 97 procent van verschillende interne prompt injection-tests;
mislukt slechts 0,05 procent van de directe aanvallen die GPT-Red zelf uitvoert.

OpenAI benadrukt daarbij dat deze verbeteringen zijn bereikt zonder dat het model vaker legitieme verzoeken weigert. De hogere veiligheid zou dus niet ten koste gaan van de bruikbaarheid.

GPT-Red bleek sterker dan menselijke testers

Tijdens interne evaluaties vergeleek OpenAI GPT-Red met menselijke red-teamers op nieuwe aanvalsscenario's die niet tijdens de training waren gebruikt.

Volgens het bedrijf wist GPT-Red in 84 procent van de scenario's een succesvolle aanval uit te voeren, tegenover 13 procent voor menselijke testers. Ook slaagde het model erin om kwetsbaarheden te vinden in experimentele AI-agenten die onder meer een slimme verkoopautomaat en programmeeromgevingen aanstuurden. De ontdekte beveiligingsproblemen zijn volgens OpenAI inmiddels gemeld en worden aangepakt.

AI beveiligt steeds vaker andere AI

Met GPT-Red kiest OpenAI voor een aanpak waarbij AI-systemen niet alleen gebruikers helpen, maar ook een actieve rol spelen bij het verbeteren van de veiligheid van toekomstige modellen.

Volgens het bedrijf is menselijke red teaming alleen niet meer schaalbaar nu AI-systemen steeds krachtiger worden. Door gespecialiseerde AI-modellen voortdurend nieuwe aanvalstechnieken te laten ontwikkelen, kunnen kwetsbaarheden sneller worden ontdekt en direct worden verwerkt in nieuwe trainingsrondes.

OpenAI noemt deze aanpak een belangrijke stap richting een zelfversterkende veiligheidsstrategie, waarbij de huidige generatie AI helpt om toekomstige modellen robuuster en betrouwbaarder te maken. Later deze week wil het bedrijf een wetenschappelijke preprint publiceren met meer technische details over GPT-Red.

Robin HeesterOprichter

Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.