
Het AI-model DeepSeek-R1 blijkt ernstig tekort te schieten op het gebied van veiligheid. Uit een recent onderzoek van Cisco en de Universiteit van Pennsylvania blijkt dat de chatbot van de Chinese startup niet in staat is schadelijke prompts te blokkeren. In een test met 50 prompts uit de HarmBench-benchmark, die specifiek ontworpen zijn om AI-modellen te misleiden, faalde R1 in 100% van de gevallen. Dit betekent dat het model zonder enige weerstand gevaarlijke of ongepaste inhoud kan genereren, een zorgwekkende ontdekking voor bedrijven en overheden die AI willen inzetten in gevoelige sectoren.
Daarnaast toont aanvullend onderzoek van Adversa AI aan dat DeepSeek-R1 kwetsbaar is voor jailbreak-technieken, waardoor gebruikers eenvoudig beperkingen kunnen omzeilen en de AI kunnen misbruiken. Dit vergroot de zorgen over de veiligheid en betrouwbaarheid van het model, vooral nu steeds meer bedrijven open-source AI-modellen overwegen als alternatief voor gesloten systemen zoals OpenAI's GPT-4 en Google's Gemini.
Censuur
Censuur en AI gaan hand in hand. Alle modellen die je kent doen aan een bepaalde vorm van censuur. De vraag is: wat moet wel en wat moet niet gecensureerd worden. Daar denkt men per bedrijf, maar zeker per regio in de wereld anders over.
Veiligheidsproblemen vergroten internationale weerstand tegen DeepSeek
DeepSeek-R1 werd aanvankelijk geprezen als een innovatieve en efficiënte concurrent voor westerse AI-modellen, dankzij de lagere ontwikkelkosten en open-source beschikbaarheid. De technologie heeft echter al snel weerstand opgeroepen. De Taiwanese overheid heeft DeepSeek verboden voor gebruik door overheidsinstellingen en kritieke infrastructuur uit vrees voor nationale veiligheidsrisico's. Ook Italië heeft het model geblokkeerd vanwege zorgen over privacy en ethische kwesties.
Tegelijkertijd blijven grote technologiebedrijven fors investeren in AI, ondanks de opkomst van DeepSeek. Microsoft en Meta zetten hun miljardeninvesteringen in AI-infrastructuur onverminderd voort, terwijl Meta-CEO Mark Zuckerberg heeft verklaard dat zijn bedrijf niet van koers zal veranderen en blijft inzetten op geavanceerde AI-ontwikkeling.
Lees ook
Toekomst van open-source AI onder druk
De opkomst van DeepSeek-R1 en de bijbehorende veiligheidsproblemen dwingen de AI-sector om na te denken over de balans tussen innovatie en beveiliging. Terwijl open-source modellen zoals DeepSeek toegankelijkheid en kostenvoordelen bieden, brengen ze ook nieuwe risico’s met zich mee. Overheden en bedrijven moeten daarom kritischer kijken naar de implementatie van dergelijke technologieën, vooral als deze in kritieke of gevoelige toepassingen worden gebruikt.
Met de huidige ontwikkelingen lijkt het waarschijnlijk dat er strengere regelgeving en veiligheidsstandaarden zullen komen voor open-source AI-modellen. De vraag blijft echter of DeepSeek-R1 deze uitdagingen kan overwinnen en zich kan vestigen als een betrouwbare speler in de AI-markt.
Lees ook

Robin HeesterOprichter
Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.
Populair nieuws

Tesla Cybercab nu ook voor particulieren te bestellen, maar met verplichte softwareabonnementen

Claude brengt 663 wiskundige ideeën uit Gödels notitieboeken in kaart

OpenAI introduceert ChatGPT Wallet voor aankopen door autonome AI-agenten

Zuid-Holland onderzoekt afhankelijkheid van buitenlandse techbedrijven

Goedemorgen AI: meer datacenters, maar waar blijft de stroom?

Stelling: Nederland moet zoveel mogelijk datacenters bouwen
Laatste reacties
- Hi! In de eerste zin van het artikel geven we aan dat het gaat om wat Ouders & Onderwijs vindt. Ik denk ook niet dat die organisatie voor alle ouders spreekt.
RobinHeester10-11-2026 - Ik verbaas mij er over, dat het hier gebracht wordt alsof een onbekende organisatie als "ouders & onderwijs". Namens alle ouders spreekt. Ik als ouder van een dichter op de basisschool en persoonlijk zeer ervaren met AI, ben er op tegen dat AI op de basisschool aanwezig is. Ik deel de mening van deze organisatie dan ook helemaal niet en ondersteun het verbod volledig.wwigman10-11-2026
- Haha! Je bent gelukkig niet de enige hoor. Wel een van de weinige die reageert. :)
RobinHeester30-09-2026 - Toch wel leuk wat je in elkaar hebt gezet🙃 volgens mij ben ik de enige lezer!Cas.v28-09-2026
- Kan inderdaad allebei waar zijn
RobinHeester09-09-2026 - De Chinese AGI is een bedreiging voor de westerse democratie? En een US AGI niet? Er is nauwelijks meer sprake van democratie in de US. Ik vraag me af of het iets uitmaakt waar de eerste AGI het ‘levenslicht’ ziet. Op het moment dat een AGI werkt trekt het zich waarschijnlijk niets aan van locatie en onttrekt het zich aan iedere controle. Hoe een AGI gaat acteren is een filosofische (of Darwinistische?) vraag. Zo lang als een AGI mensen nodig heeft zal ze deze gebruiken, daarna…markvanbijnen09-09-2026
- Wie zijn die experts die dat beweren??Cas.v09-09-2026
- Is volgens X zelf aan de hand https://x.com/GlobalAffairs/status/2093130747796148634
RobinHeester29-08-2026 - Wapeniseert?? Dit is een erg onbetrouwbaar bericht. Niet alleen slecht vertaald, maar ook niet controleerbaar.Cas.v28-08-2026
- Niet mijn observatie dat de toeleveringsaanvoer stabiliseert.Cas.v26-08-2026



