AI-bedrijven slaan alarm: hackers vinden nieuw lek in kunstmatige intelligentie

Grote namen in de AI-wereld zoals Google DeepMind, Anthropic, OpenAI en Microsoft werken aan oplossingen voor een groeiend beveiligingsprobleem binnen kunstmatige intelligentie, zo beschrijft de Financial Times. Het gaat om een type aanval dat nog maar weinig mensen kennen, maar dat volgens experts snel een groot risico vormt: de zogeheten “indirect prompt injection”.

Bij zo’n aanval plaatsen hackers verborgen instructies in bijvoorbeeld websites of e-mails. AI systemen zoals ChatGPT of Claude lezen die opdrachten zonder onderscheid te maken tussen wat veilig en wat gevaarlijk is. Een kwaadwillende kan zo gevoelige informatie ontfutselen of een model laten doen wat eigenlijk verboden is. De Britse overheid waarschuwt dat deze methode binnenkort miljoenen bedrijven en gebruikers kan treffen.

Om dat te voorkomen experimenteren bedrijven met nieuwe verdedigingsstrategieën. Anthropic zet externe testers en AI tools in om deze aanvallen te simuleren en op te sporen. Google DeepMind gebruikt “automated red teaming”, waarbij het eigen Gemini-model continu wordt getest door digitale tegenstanders.

Tegelijkertijd wordt er gekeken naar een ander gevaar: “data poisoning”. Daarbij voegen hackers schadelijke data toe aan trainingssets van AI modellen, waardoor ze op termijn verkeerde of zelfs gevaarlijke antwoorden kunnen geven.

Nieuwe onderzoeken tonen aan dat zulke aanvallen veel eenvoudiger zijn uit te voeren dan gedacht. Hackers gebruiken steeds vaker AI zelf om malware te schrijven, phishing campagnes te maken en zelfs deepfakes te produceren. Volgens MIT onderzoekers gebruikt inmiddels 80% van alle ransomware-aanvallen AI, en steeg AI gerelateerde fraude met 60%.

Anthropic wist onlangs een poging te blokkeren waarbij een hacker via Claude Code 17 bedrijven probeerde af te persen voor $500.000. Experts waarschuwen dat cybercriminaliteit toegankelijker is dan ooit. “Met een laptop en $15 aan software kan iedereen beginnen,” klinkt het.

Toch biedt AI ook kansen: steeds meer bedrijven gebruiken slimme algoritmes om cyber dreigingen sneller te detecteren en te voorkomen. Zo wordt kunstmatige intelligentie tegelijk het wapen én het schild in de digitale strijd.