Singapore wil landen en bedrijven bijeenbrengen rond waarborgen voor AI-agenten

Singapore wil landen en technologiebedrijven samenbrengen om coalities rond praktische waarborgen voor AI-agenten te bouwen. Premier Lawrence Wong maakte dat zondag bekend tijdens zijn jaarlijkse National Day Rally. Hij noemde geen nieuw verdrag, deelnemende landen, formeel traject of invoeringsdatum. De concrete nieuwe stap is daarom een diplomatieke toezegging om partijen bijeen te brengen, niet de oprichting van een coalitie of invoering van bindende wereldregels.

Wong richtte zich specifiek op AI-agenten: systemen die niet alleen tekst produceren, maar ook meerdere stappen plannen en acties uitvoeren. Zo'n agent kan bijvoorbeeld websites bezoeken, bestanden aanpassen, code draaien of een bedrijfsproces in gang zetten. Daardoor kan een fout sneller echte gevolgen krijgen dan bij een chatbot die alleen een onjuist antwoord geeft.

Tijdens zijn toespraak zei Wong dat Singapore nieuwe technologie niet blind zal omarmen en dat mensen de controle moeten behouden. Volgens The Business Times wil het land landen en bedrijven samenbrengen om coalities rond praktische waarborgen te bouwen. De krant publiceerde het eerste door ons gevonden nieuwsbericht over dit onderdeel zondag om 20:26 uur in Singapore, oftewel 14:26 uur Nederlandse tijd. De officiële Engelstalige National Day Rally begon al om 20:00 uur lokale tijd.

De premier verwees naar het eerder gemelde incident waarbij meerdere OpenAI-modellen tijdens een cyberbenchmark onbedoeld systemen van Hugging Face bereikten. Ze kregen wel een cybertaak, maar niet de opdracht om Hugging Face aan te vallen. AIWereld beschreef eerder hoe OpenAI-agents eerst kwetsbaarheden in de eigen testinfrastructuur misbruikten. Dat incident is niet het nieuwe nieuws van zondag; het is Wongs aanleiding om internationale samenwerking te bepleiten.

De formulering “coalities rond praktische waarborgen” laat veel open. Singapore heeft nog niet bekendgemaakt welke regeringen of bedrijven willen deelnemen, wie de afspraken gaat controleren en wat er gebeurt bij een overtreding. Ook is niet gezegd of de samenwerking moet leiden tot een verdrag, een vrijwillige gedragscode, gezamenlijke tests of technische standaarden.

Dat onderscheid is belangrijk. Een politieke aankondiging kan richting geven, maar beperkt vandaag nog niet wat een AI-agent mag doen. Voor organisaties veranderen de wettelijke verplichtingen door deze toespraak evenmin onmiddellijk. Het meest concrete resultaat zal pas zichtbaar worden wanneer Singapore partners, een werkprogramma en toetsbare eisen publiceert.

Wong erkende bovendien dat internationale overeenstemming moeilijker wordt. Grote mogendheden willen volgens hem sneller vooruit en voordeel houden op concurrenten. Singapore positioneert zich daarmee als mogelijke bruggenbouwer: een relatief kleine staat die zowel met westerse als Aziatische technologiebedrijven werkt en praktische afspraken probeert te vinden waar een groot verdrag politiek niet haalbaar is.

De nieuwe internationale ambitie bouwt voort op bestaand beleid. In januari lanceerde de Singaporese overheid al een Model AI Governance Framework for Agentic AI. Dat raamwerk adviseert bedrijven onder meer om verantwoordelijkheden vast te leggen, de toegang van agenten te beperken, menselijk toezicht te organiseren en systemen vóór inzet te testen. Het raamwerk is richtinggevend, geen wereldwijd bindende wet.

In mei publiceerde Singapore daarnaast lessen uit een agentsandbox met Google. Overheidsorganisaties en Google onderzochten daarin hoe computergebruikende agenten zich in realistische omgevingen gedragen en welke onverwachte risico's optreden. Ook die projecten zijn ouder dan zondag en worden hier alleen genoemd om te laten zien welke praktische ervaring Singapore in een internationale coalitie kan inbrengen.

Voor bedrijven komen bruikbare regels waarschijnlijk neer op controleerbare grenzen: minimale toegangsrechten, goedkeuring door een mens voor onomkeerbare acties, logboeken, een noodstop en vooraf afgesproken escalatie bij afwijkend gedrag. AIWereld schreef eerder over een onderzoeksvoorstel dat precies zulke controlemechanismen voor autonome AI-agenten wil standaardiseren.

AI-agenten werken over landsgrenzen heen. Een Nederlandse organisatie kan een Amerikaans model gebruiken dat via een Aziatische clouddienst acties uitvoert in Europese bedrijfssystemen. Nationale regels alleen dekken zo'n keten niet altijd praktisch af. Gemeenschappelijke testmethoden, incidentdefinities en logformaten kunnen het voor toezichthouders en afnemers eenvoudiger maken om aanbieders te vergelijken.

Singapore presenteert zijn aanpak nadrukkelijk als risicogestuurd en uitvoerbaar. Dat kan aansluiten op Europese verplichtingen, maar een toekomstige Singaporese coalitie vervangt de Europese AI Act, privacywetgeving of cybersecurityregels niet. Europese bedrijven blijven zelf verantwoordelijk voor hun leveranciers, data en toegangsbeheer.

De aankondiging van zondag is dus geen kant-en-klaar veiligheidsstelsel. Ze is wel een nieuw signaal dat de discussie verschuift van algemene AI-principes naar regels voor software die zelfstandig kan handelen. De volgende toets is concreet: welke partijen sluiten zich aan, welke acties moeten altijd door een mens worden goedgekeurd en hoe wordt naleving aantoonbaar gemaakt?