Chinezen maken militaire AI op basis van Meta’s Llama model

Chinese onderzoekers, verbonden aan het Volksbevrijdingsleger (PLA), blijken Meta's open-source kunstmatige intelligentie (AI) model, genaamd Llama, gebruikt te hebben om een geavanceerd systeem te ontwikkelen voor militaire doeleinden. Dit model, genaamd "ChatBIT", is ontworpen om inlichtingen te verzamelen, gegevens te analyseren en strategische beslissingen te ondersteunen.

Hoewel Meta het gebruik van hun modellen voor militaire doeleinden verbiedt, is het de open-source aanpak lastig voor het Amerikaanse bedrijf om dit te controleren. Het Chinese project omvatte samenwerking tussen prominente Chinese onderzoeksinstellingen, waaronder het Academy of Military Science (AMS) en de Beijing Institute of Technology. ChatBIT is geoptimaliseerd om vragen te kunnen beantwoorden in militaire context en zou in staat zijn om accurate en betrouwbare informatie te leveren voor operationele beslissingen. Het systeem, gebaseerd op de Llama 13B, overtrof in prestaties andere AI modellen en nadert zelfs het niveau van de geavanceerde ChatGPT-4.

Meta reageerde hierop door aan te geven dat dit gebruik door het PLA in strijd is met hun gebruiksvoorwaarden. De richtlijnen van Meta verbieden het gebruik van hun modellen voor militaire doeleinden, waaronder spionage en nucleaire toepassingen. Toch blijft handhaving een uitdaging, omdat het model vrij toegankelijk is voor het publiek. Meta benadrukt dat de VS open innovatie moeten omarmen, maar ook waakzaam moeten blijven op strategische risico’s.

Volgens deskundigen is deze ontwikkeling illustratief voor de bredere strategie van China om de kloof met de Verenigde Staten op het gebied van AI en technologie te verkleinen. Onderzoekers voorspellen dat initiatieven zoals ChatBIT de komende jaren alleen maar verder zullen worden uitgebreid met verschillende toepassingen voor strategische planning en simulaties.

De situatie heeft in de Verenigde Staten een discussie aangewakkerd over de risico’s van open-source AI. President Biden ondertekende recent nog een decreet om AI ontwikkelingen nauwgezet te monitoren, gezien de potentiële veiligheidsrisico's. Ook het Pentagon volgt de ontwikkelingen in de Chinese AI markt nauwlettend en onderzoekt maatregelen om de nationale veiligheid te beschermen tegen strategische risico's.