
Barracuda beschrijft in een analyse van begin oktober phishingmails met verborgen opdrachten voor AI-assistenten. De aanvallen proberen verdachte berichten in samenvattingen als betrouwbaar of dringend te laten verschijnen, schrijft het beveiligingsbedrijf in zijn onderzoeksbericht.
Daarmee krijgt een oude oplichtingstruc een extra route naar de gebruiker. Wie zijn inbox laat samenvatten, beoordeelt mogelijk eerst de uitleg van de assistent. Als een aanvaller die uitleg beïnvloedt, kan een schadelijk verzoek overtuigender overkomen voordat iemand de oorspronkelijke mail heeft gelezen.
Eén bericht heeft twee doelwitten
Eén laag lokt de ontvanger, de andere probeert diens AI te sturen. Barracuda noemt een factuurmail met de verborgen opdracht gewijzigde betaalgegevens als belangrijke actie op te nemen.
De aanwijzingen kunnen onder meer in HTML-commentaar, onzichtbaar opgemaakte tekst of gecodeerde gegevens staan. Een mailprogramma toont zulke onderdelen niet altijd, terwijl software die de onderliggende inhoud verwerkt ze wel kan tegenkomen.
Een afzender krijgt daarmee niet automatisch controle over iedere mailassistent. De uitkomst hangt onder meer af van welke inhoud het mailsysteem doorgeeft en hoe het model daarop reageert. Een verborgen tekstblok dat de assistent nooit ontvangt, kan langs die route ook geen opdracht overbrengen.
Waarom een samenvatting extra vertrouwen kan krijgen
De techniek valt onder promptinjectie. Volgens de uitleg van OWASP hoeft zo’n aanval niet zichtbaar te zijn voor mensen. Het probleem ontstaat wanneer de AI externe inhoud behandelt als een geldige instructie voor zichzelf.
Dat onderscheid is eenvoudig uit te leggen. Een assistent mag beschrijven dat een afzender om een betaling vraagt. Hij moet daarbij herkenbaar houden dat het verzoek van die afzender komt. Wanneer hij het overneemt als eigen advies, verdwijnt voor de lezer een belangrijk verschil tussen een bewering en een controle.
Barracuda noemt geen slagingspercentage, getroffen modelnamen of bewezen schade. Daardoor laat de analyse geen algemene conclusie over de kwetsbaarheid van e-mailassistenten toe.
Beperk wat de assistent zelfstandig mag doen
Microsoft adviseert in zijn richtlijnen tegen indirecte promptinjectie meerdere beveiligingslagen. Organisaties moeten externe inhoud afzonderen, afwijkende handelingen volgen en AI-agenten alleen de rechten geven die zij voor hun taak nodig hebben. Risicovolle acties vragen om controle door een mens.
Voor een inboxassistent betekent dat bijvoorbeeld dat samenvatten en betaalgegevens wijzigen afzonderlijke bevoegdheden moeten zijn. Ook het doorsturen van berichten verdient een eigen controle. Een fout in een samenvatting hoeft dan niet direct te leiden tot een wijziging in de administratie of het delen van vertrouwelijke informatie.
Die aanpak sluit aan bij de bredere ontwikkeling om AI-agenten tijdens hun werk te bewaken en te begrenzen.
Lees ook
Controleer betaalverzoeken buiten de AI-samenvatting
De Kamer van Koophandel adviseert bij factuurfraude de afzender en het rekeningnummer te vergelijken met de eigen administratie. Bij twijfel hoort contact via eerder bekende gegevens daarbij. Een telefoonnummer dat alleen in de verdachte factuur staat, biedt die onafhankelijke controle niet.
Controleer ook of het product of de dienst daadwerkelijk besteld is en of factuur- en ordernummers aansluiten op de administratie. Een herkenbare bedrijfsnaam alleen is geen voldoende controle.
Een AI-samenvatting verandert die controle niet. Zij kan helpen om een verzoek snel te begrijpen, maar vormt op zichzelf geen bevestiging dat een leverancier werkelijk een ander rekeningnummer gebruikt. Juist wanneer de assistent haast aanbeveelt, blijft de herkomst van dat advies een vraag die de gebruiker moet kunnen beantwoorden.

Robin HeesterOprichter
Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.
Populair nieuws

AI-aandelen herstellen, maar Nvidia daalt: AMD wint 13 procent

Anthropic brengt Claude Fable 5.2 uit en verlaagt API-prijzen

Meta brengt goedkoop AI-model Muse Ember uit voor AI-agenten

Nvidia na schandaal en koersval: hoeveel hangt er af van Jensen Huang?

Ouders & Onderwijs tegen totaalverbod op AI op basisscholen

Asahi Linux scherpt licentie aan na klachten over kopiëren met AI
Laatste reacties
- Hi! In de eerste zin van het artikel geven we aan dat het gaat om wat Ouders & Onderwijs vindt. Ik denk ook niet dat die organisatie voor alle ouders spreekt.
RobinHeester10-11-2026 - Ik verbaas mij er over, dat het hier gebracht wordt alsof een onbekende organisatie als "ouders & onderwijs". Namens alle ouders spreekt. Ik als ouder van een dichter op de basisschool en persoonlijk zeer ervaren met AI, ben er op tegen dat AI op de basisschool aanwezig is. Ik deel de mening van deze organisatie dan ook helemaal niet en ondersteun het verbod volledig.wwigman10-11-2026
- Haha! Je bent gelukkig niet de enige hoor. Wel een van de weinige die reageert. :)
RobinHeester30-09-2026 - Toch wel leuk wat je in elkaar hebt gezet🙃 volgens mij ben ik de enige lezer!Cas.v28-09-2026
- Kan inderdaad allebei waar zijn
RobinHeester09-09-2026 - De Chinese AGI is een bedreiging voor de westerse democratie? En een US AGI niet? Er is nauwelijks meer sprake van democratie in de US. Ik vraag me af of het iets uitmaakt waar de eerste AGI het ‘levenslicht’ ziet. Op het moment dat een AGI werkt trekt het zich waarschijnlijk niets aan van locatie en onttrekt het zich aan iedere controle. Hoe een AGI gaat acteren is een filosofische (of Darwinistische?) vraag. Zo lang als een AGI mensen nodig heeft zal ze deze gebruiken, daarna…markvanbijnen09-09-2026
- Wie zijn die experts die dat beweren??Cas.v09-09-2026
- Is volgens X zelf aan de hand https://x.com/GlobalAffairs/status/2093130747796148634
RobinHeester29-08-2026 - Wapeniseert?? Dit is een erg onbetrouwbaar bericht. Niet alleen slecht vertaald, maar ook niet controleerbaar.Cas.v28-08-2026
- Niet mijn observatie dat de toeleveringsaanvoer stabiliseert.Cas.v26-08-2026

