Chinese AI-maker Moonshot beperkt hackvaardigheden van nieuw Kimi-model

Het Chinese AI-bedrijf Moonshot AI heeft bewust geprobeerd de mogelijkheden voor cyberaanvallen in zijn nieuwste AI-model te beperken. Het bedrijf presenteerde op 24 oktober Kimi K3.1 Pro, een krachtig model dat onder meer software kan schrijven, ingewikkelde taken kan uitvoeren en grote hoeveelheden informatie kan verwerken.

Moonshot verwijderde tijdens de ontwikkeling bepaalde gegevens over cyberaanvallen uit het trainingsmateriaal. Volgens het bedrijf moet dit voorkomen dat het openlijk beschikbaar maken van het model geavanceerde hackmogelijkheden verder verspreidt.

De beslissing is opvallend omdat Moonshot Kimi K3.1 Pro juist presenteert als een grote stap vooruit op het gebied van programmeren en zelfstandig werken.

Moonshot onderzocht hoe goed zijn nieuwe model softwarekwetsbaarheden kon vinden en misbruiken.

Bij een interne test behaalde een versie zonder de extra beperkingen een score van 90,5 procent. De uiteindelijke versie van Kimi K3.1 Pro kwam uit op 81 procent.

Dat verschil van 9,5 procentpunt moet volgens het bedrijf aantonen dat het verwijderen van bepaalde trainingsgegevens de offensieve cybercapaciteiten vermindert.

De test bestaat uit gecontroleerde opdrachten waarbij AI-systemen kwetsbaarheden in software moeten ontdekken en uitbuiten.

De cijfers komen van Moonshot zelf. Onafhankelijke onderzoekers hebben de specifieke vergelijking nog niet bevestigd.

Bovendien betekent een lagere score niet dat het model geen gevaarlijke cyberactiviteiten meer kan ondersteunen. Met 81 procent presteert het nog altijd beter dan zijn voorganger in deze interne test.

Het bedrijf probeert dus niet om alle cybersecuritykennis uit het model te halen. Moonshot wil voorkomen dat een openbaar model de allerhoogste bestaande aanvalscapaciteiten verder opschuift.

Kimi K3.1 Pro is een zogenoemd open-weight-model.

Dat betekent dat ontwikkelaars de modelgewichten kunnen downloaden en op hun eigen infrastructuur kunnen gebruiken. Die gewichten bevatten de instellingen die het AI-model tijdens zijn training heeft geleerd.

Moonshot wil de volledige gewichten uiterlijk 4 november 2026 beschikbaar maken.

Bij commerciële AI-diensten zoals ChatGPT verloopt veel gebruik via servers die de aanbieder beheert. Daardoor kan het bedrijf bepaalde controles uitvoeren, toegang beperken en veiligheidsmaatregelen aanpassen.

Bij open modelgewichten werkt dat anders.

Zodra gebruikers de bestanden lokaal draaien, heeft de oorspronkelijke ontwikkelaar veel minder controle over wat zij ermee doen. Ook kunnen anderen het model aanpassen of verder trainen.

Dat maakt de beslissing van Moonshot relevant. Beperkingen die tijdens de ontwikkeling zijn aangebracht, moeten deels voorkomen dat gevaarlijke mogelijkheden überhaupt in de openbare versie terechtkomen.

Volledige zekerheid levert dat niet op. Algemene programmeervaardigheden kunnen ook bruikbaar zijn voor cybersecurity.

De aankondiging komt in een periode waarin overheden zich zorgen maken over het gebruik van AI voor digitale aanvallen.

Volgens Reuters heeft China onlangs nieuwe exportbeperkingen voorgesteld voor onder meer AI-technologie die schadelijke software kan ontwikkelen of aanpassen.

Ook hulpmiddelen waarmee AI automatisch softwarekwetsbaarheden ontdekt, vallen onder de voorgestelde maatregelen.

Die regels waren op het moment van de aankondiging nog niet definitief.

China ontwikkelt tegelijkertijd steeds krachtigere AI-modellen die internationaal beschikbaar komen.

AI Wereld schreef eerder over de introductie van Kimi K2, waarmee Moonshot zich nadrukkelijk mengde in de concurrentiestrijd met Amerikaanse AI-bedrijven.

De nieuwe stap laat zien dat openheid en veiligheid daarbij steeds vaker met elkaar botsen.

Kimi K3.1 Pro heeft een contextvenster van één miljoen tokens. Daarmee kan het model zeer omvangrijke teksten, codebestanden en documenten binnen één opdracht verwerken.

Moonshot introduceert daarnaast Kimi K3.1 Pro Highspeed. Volgens het bedrijf werkt deze uitvoering ongeveer twee tot drie keer sneller dan de standaardversie.

De modellen zijn via de eigen diensten en API van Kimi beschikbaar. De volledige downloadbare gewichten volgen volgens de planning begin november.

Voor softwareontwikkelaars kan zo'n krachtig open model aantrekkelijk zijn. Zij krijgen meer vrijheid om AI op eigen systemen te gebruiken, zonder voor iedere handeling afhankelijk te zijn van een externe aanbieder.

Voor beveiligingsspecialisten ontstaat tegelijkertijd een ingewikkelde afweging.

AI die zelfstandig beveiligingslekken vindt, kan bedrijven helpen hun software te beschermen. Precies dezelfde kennis kan ook door aanvallers worden gebruikt.

Moonshot kiest ervoor een deel van die mogelijkheden vooraf te beperken, maar laat het model verder breed inzetbaar.

Daarmee vormt Kimi K3.1 Pro een interessante test voor de hele AI-industrie: hoeveel veiligheid kun je inbouwen voordat een krachtig model openbaar beschikbaar komt, zonder de nuttige toepassingen te veel te beperken?