Goedemorgen AI: oplichters richten zich op je AI-assistent

Een phishingmail probeert niet meer alleen jou te overtuigen. Ook de AI die je inbox samenvat, kan het doelwit zijn. Verder deze zondag: medische AI zonder internet, een onrustige beursweek voor AI-bedrijven en een Franse boekenprijs waarvoor AI juist mag meeschrijven.

Goedemorgen! Het is zondag 25 oktober 2026. Vandaag kijken we naar de vraag wie controleert wat AI doet. Van een verdachte factuur tot een longfoto en een nieuw manuscript: een overtuigend resultaat vertelt niet vanzelf hoe het tot stand kwam.

In de nieuwste aflevering van AI Wereld Vandaag bespreken we vijf ontwikkelingen met extra uitleg en herkenbare voorbeelden. De podcast gebruikt een AI-stem.

Beveiligingsbedrijf Barracuda beschrijft phishingmails met verborgen opdrachten voor AI-assistenten. Die moeten ervoor zorgen dat een verdacht verzoek in een samenvatting betrouwbaar of dringend lijkt.

Denk aan een factuur met gewijzigde betaalgegevens. Als je assistent daarvan een belangrijke taak maakt, kan de vraag van de afzender gaan klinken als gecontroleerd advies. Terwijl de AI niet heeft vastgesteld dat het nieuwe rekeningnummer klopt.

De analyse verscheen eerder in oktober. Ze toont geen algemeen slagingspercentage en betekent niet dat iedere mailassistent kwetsbaar is. De praktische les blijft: controleer gewijzigde betaalgegevens via een contactpersoon of nummer dat je al kent. Laat samenvatten bovendien niet automatisch betekenen dat de assistent ook betalingen mag uitvoeren.

AI hoeft niet altijd via een groot datacenter op afstand te werken. Google Research beschrijft hoe Nexus Intelligence longfoto’s lokaal laat beoordelen, ook zonder internet. De technologie is onder meer ingezet bij mijnwerkers in Zuid-Afrika, bijna vier kilometer onder de grond.

De software helpt zorgverleners afwijkingen te herkennen die kunnen wijzen op tuberculose. Een analyse kan volgens de ontwikkelaars in ongeveer 45 seconden beschikbaar zijn.

Dat is geen bevestigde diagnose. Mensen met verdachte bevindingen hebben vervolgonderzoek nodig en de medische beoordeling blijft bij zorgverleners. De winst zit vooral in toegang: een eerste beoordeling op locatie kan helpen om sneller te bepalen wie extra onderzoek nodig heeft. De toepassingen bestaan al langer; de publicatie van vrijdag geeft een voortgangsoverzicht.

De AI-beursweek verliep onrustig. Meta verloor ruim 9 procent, ASML bijna 5 procent en ook ASMI en Besi daalden. SAP steeg juist bijna 8 procent. Het gaat om de handelsweek tot en met vrijdag 23 oktober, niet om bewegingen op zondag.

Meta rapporteerde sterke omzetgroei, maar ook omvangrijke investeringen. De vrije kasstroom was negatief. Dat is niet hetzelfde als verlies: het bedrijf verdiende wel winst, maar de investeringsuitgaven waren groter dan de kasstroom uit de bedrijfsactiviteiten.

Besi kreeg ondertussen bijna twee keer zoveel nieuwe orders als een jaar eerder. Toch daalde het aandeel. De tegenstelling laat zien waarom verwachtingen en toekomstige uitgaven naast de huidige omzet tellen. Een slechte beursweek is geen oordeel over de bruikbaarheid van AI, maar maakt de vraag naar een houdbaar verdienmodel zichtbaar.

De Britse regering kondigde zaterdag een AI Biosecurity Lab aan. Het moet helpen dreigingen eerder te herkennen en de ontwikkeling van vaccins en behandelingen te versnellen.

De overheid stelt 100 miljoen pond beschikbaar. OpenAI en Anthropic zeggen samen ondersteuning ter waarde van maximaal 200 miljoen pond toe. Die bijdrage bestaat onder meer uit modeltoegang, rekenkracht en technische hulp, niet uitsluitend uit geld.

Het programma moet AI inzetten voor bescherming, ook tegen risico’s die krachtigere AI zelf kan vergroten. De aankondiging bewijst nog niet dat het lab een toekomstige uitbraak kan voorkomen. De concrete resultaten moeten volgen.

In Frankrijk zijn deze week de inzendingen geopend voor de Prix Pascal, een literaire prijs voor werk dat met AI is gemaakt. Deelnemers leveren naast hun Franstalige manuscript ook hun oorspronkelijke idee en een toelichting op de gebruikte technologie aan.

De organisatie wil de kwaliteit van het werk beoordelen, niet alleen het gebruik van een bepaald model. Ook zoekt zij een bijdrage aan een maatschappelijk, ethisch of ecologisch vraagstuk.

Dat maakt de werkwijze onderdeel van het gesprek. Een schrijver die AI alleen als meelezer gebruikt, werkt anders dan iemand die complete scènes laat genereren. Openheid maakt dat verschil zichtbaar, maar de jury moet nog steeds bepalen of het resultaat de moeite waard is. Volgens de planning sluiten de inzendingen eind november.

Maakt het voor jouw leesplezier uit of een boek met AI is geschreven, zolang de schrijver daar duidelijk over is? Laat het weten in de reacties.

Luister naar de aflevering via de player hierboven. Eerdere uitzendingen staan op de podcastpagina van AI Wereld Vandaag. Fijne zondag!