Gesprekken met AI zijn niet privé: OpenAI meldde in drie maanden ruim 200 mogelijke geweldsdreigingen bij politie

OpenAI heeft in drie maanden tijd meer dan 200 meldingen gedaan bij opsporingsdiensten vanwege mogelijke geweldsdreigingen in ChatGPT. Dat maakte het bedrijf bekend in een nieuwe toelichting op zijn veiligheidsbeleid. Tegelijkertijd krijgt ChatGPT strengere regels en de mogelijkheid om gesprekken over ernstig geweld automatisch te beëindigen.

De meldingen vonden plaats in het derde kwartaal van 2026, tussen juli en september. Het gaat volgens OpenAI om situaties waarin gesprekken wijzen op een geloofwaardige en mogelijk directe dreiging voor anderen.

Het bedrijf noemt het aantal in een aankondiging over nieuwe veiligheidsmaatregelen. Hoeveel meldingen daadwerkelijk tot politieoptreden, arrestaties of het voorkomen van geweld hebben geleid, is niet bekend.

OpenAI gebruikt geautomatiseerde systemen om mogelijk gevaarlijke activiteiten op zijn platform te herkennen. Die controleren onder andere gesprekken en gedragspatronen op aanwijzingen voor misbruik.

Wanneer een systeem iets verdachts ontdekt, kunnen speciaal opgeleide medewerkers de situatie verder onderzoeken. Zij beoordelen de inhoud van gesprekken en kijken of eerdere interacties aanleiding geven tot extra zorgen.

Niet iedere gewelddadige uitspraak leidt tot een melding. OpenAI maakt onderscheid tussen bijvoorbeeld fictieve scenario's, historische vragen, emotionele uitingen en aanwijzingen dat iemand daadwerkelijk geweld wil plegen.

Volgens het bestaande veiligheidsbeleid van OpenAI informeert het bedrijf opsporingsdiensten wanneer het een geloofwaardige en acute dreiging voor anderen vaststelt. Bij moeilijke gevallen kunnen deskundigen op het gebied van geestelijke gezondheid en menselijk gedrag betrokken raken.

Dat betekent dat een gesprek met ChatGPT niet onder alle omstandigheden uitsluitend tussen de gebruiker en de chatbot blijft. Bij ernstige veiligheidsrisico's kan OpenAI de inhoud laten beoordelen en besluiten autoriteiten in te schakelen.

Het bedrijf geeft niet aan in welke landen de ruim 200 meldingen plaatsvonden. Ook ontbreken gegevens over het aantal betrokken accounts, onterechte waarschuwingen en de precieze informatie die OpenAI met autoriteiten heeft gedeeld.

OpenAI werkt daarnaast aan een nieuwe manier om in te grijpen voordat gevaarlijk gedrag verder escaleert.

Wanneer een gebruiker tijdens een gesprek herhaaldelijk terugkomt op het plegen van ernstig geweld tegen een ander, kan ChatGPT het gesprek voortaan automatisch beëindigen.

Blijft iemand dergelijke gesprekken voeren, dan kan OpenAI het account tijdelijk blokkeren.

De chatbot gaat ook voorzichtiger reageren wanneer eerdere gesprekken mogelijke waarschuwingssignalen bevatten. Daarvoor kan het systeem korte, feitelijke samenvattingen van eerdere risicosignalen gebruiken.

Een vraag die op zichzelf onschuldig lijkt, kan daardoor een beperktere reactie opleveren wanneer eerdere interacties wijzen op een mogelijk gewelddadig voornemen.

Ook informatie over historische aanslagen wordt verder beperkt. ChatGPT zal minder gedetailleerde beschrijvingen geven van gebruikte wapens, uitrusting en de manieren waarop daders daaraan kwamen.

Gebruikers kunnen nog steeds vragen stellen over slachtoffers, historische gebeurtenissen en het voorkomen van geweld. De beperkingen richten zich vooral op informatie die iemand praktisch kan helpen bij het voorbereiden van een aanval.

OpenAI begint de nieuwe maatregelen in de komende weken uit te rollen.

Voor gebruikers jonger dan achttien jaar gaat OpenAI verder.

ChatGPT mag minderjarigen al niet helpen bij het verkrijgen van wapens. Daar komen beperkingen bij voor praktische informatie over wapens en beveiligingssystemen die misbruikt zou kunnen worden om geweld te plegen.

Deze regels gelden ook wanneer een vraag op zichzelf geen duidelijke gewelddadige bedoeling heeft.

OpenAI gebruikt daarnaast leeftijdsinschatting om te bepalen of een account mogelijk bij een minderjarige hoort. Het systeem analyseert daarvoor verschillende signalen, waaronder gedrag tijdens het gebruik.

Die beoordeling blijft plaatsvinden terwijl iemand ChatGPT gebruikt. Een account kan daardoor later alsnog automatisch onder de strengere regels voor tieners vallen.

Volwassenen die ten onrechte als minderjarig worden ingedeeld, kunnen hun leeftijd laten controleren via verificatiepartner Persona.

AI Wereld schreef eerder over de afzonderlijke ChatGPT-ervaring voor tieners en het bijbehorende ouderlijk toezicht.

Ouders met gekoppelde accounts kunnen sinds juli al een melding krijgen wanneer OpenAI het account van hun kind deactiveert wegens overtredingen van de regels rond geweld. Het bedrijf werkt nu aan vergelijkbare meldingen voor tijdelijke blokkades na herhaalde gesprekken over geweld.

De nieuwe aankondiging volgt op maanden van discussie over de verantwoordelijkheid van AI-bedrijven bij het herkennen van mogelijke geweldsdreigingen.

In februari 2026 kwam OpenAI onder vuur te liggen na een dodelijke schietpartij in het Canadese Tumbler Ridge.

Het bedrijf had al in juni 2025 een ChatGPT-account van de latere dader geblokkeerd wegens overtredingen van zijn regels rond gewelddadige activiteiten.

OpenAI besloot destijds de Canadese politie niet te waarschuwen. Volgens het bedrijf waren er onvoldoende aanwijzingen voor een geloofwaardig en onmiddellijk dreigend geweldsplan.

Na de schietpartij nam OpenAI alsnog contact op met de autoriteiten. Het incident leidde tot kritiek op de manier waarop het bedrijf potentiële dreigingen beoordeelde.

AI Wereld berichtte destijds uitgebreid over de eerdere waarschuwingen bij OpenAI en het besluit om de politie niet in te schakelen.

De kwestie laat zien hoe lastig de afweging tussen veiligheid en privacy kan zijn. Te laat ingrijpen kan ernstige gevolgen hebben, terwijl onterechte meldingen bij de politie eveneens grote gevolgen kunnen hebben voor gebruikers.

OpenAI wil vanaf begin 2027 iedere zes maanden een openbaar veiligheidsrapport publiceren. Het eerste rapport behandelt de tweede helft van 2026.

Daarin wil het bedrijf uitleggen hoe het risicovolle gesprekken detecteert, onderzoekt en afhandelt. Ook belooft OpenAI geanonimiseerde voorbeelden, informatie over nieuwe veiligheidsmaatregelen en relevante cijfers te delen.

Daarmee moet duidelijker worden hoe de systemen in de praktijk functioneren en of de genomen maatregelen effectief zijn.

Voorlopig zijn de ruim 200 politiemeldingen vooral een cijfer dat OpenAI zelf naar buiten heeft gebracht. Een onafhankelijke controle ontbreekt en zonder gegevens over gemiste dreigingen, foutieve meldingen en de afloop van onderzoeken is niet vast te stellen hoe betrouwbaar de veiligheidsaanpak daadwerkelijk is.