AI-stem gebruikt om Amerikaanse minister na te doen: diplomaten misleid

In de Verenigde Staten is aan het licht gekomen dat iemand kunstmatige intelligentie heeft gebruikt om zich via spraak en berichten voor te doen als senator Marco Rubio, laat The Financial Times vandaag weten. Deze AI-stem werd ingezet om buitenlandse ministers te bellen, in een poging hen te misleiden.

De nep-oproepen gebeurden via de berichtendienst Signal, die vaak wordt gebruikt voor vertrouwelijke communicatie. De stem in de berichten klonk sterk als die van Rubio, een invloedrijke Republikeinse politicus en vicevoorzitter van de Senaatscommissie voor Buitenlandse Zaken.

De gesprekken werden zo echt mogelijk opgezet: naast de stem gebruikte de afzender ook afbeeldingen van Rubio en imitaties van zijn communicatie. De bedoeling leek om diplomatieke relaties te verstoren of gevoelige informatie los te krijgen.

Het Amerikaanse ministerie van Buitenlandse Zaken heeft bevestigd dat er meerdere van dit soort pogingen zijn gedaan. Ze noemden het "een voorbeeld van hoe AI op gevaarlijke wijze kan worden ingezet voor politieke manipulatie".

Wat deze zaak bijzonder zorgwekkend maakt, is hoe geloofwaardig de AI-gegenereerde stem klonk. Volgens een diplomatieke bron uit Europa was het "bijna niet van echt te onderscheiden". Sommige ministers trapten er aanvankelijk in, tot ze argwaan kregen door vreemde vragen of onlogische verzoeken.

Experts maken zich zorgen dat dit soort tactieken in de toekomst vaker zullen worden gebruikt. Met de opkomst van AI-stemtechnologie wordt het steeds makkelijker om stemmen van bekende mensen na te bootsen. Dat kan al zelfs met slechts een paar minuten audiomateriaal.

Hoewel nog niet bekend is wie er achter deze actie zit, wijzen sommigen naar buitenlandse staten die eerder AI of desinformatiecampagnes hebben gebruikt om democratieën te ondermijnen. Tot nu toe is er echter geen concreet bewijs geleverd.

De zaak onderstreept de groeiende zorgen binnen de politiek over AI-misbruik. Steeds meer politici en diplomaten vragen om strengere regels en internationale afspraken over hoe AI wel en niet mag worden gebruikt.

Het incident is een wake-upcall, volgens AI-beveiligingsexpert Nina Schick. "Wat we hier zien is geen sciencefiction meer. Het is echt, en het gebeurt nu al", zegt ze. “We hebben dringend richtlijnen nodig voor het gebruik van AI, zeker als het gaat om communicatie tussen landen.”

Voorlopig heeft het Amerikaanse ministerie zijn beveiligingsmaatregelen bij gesprekken en oproepen aangescherpt. Diplomaten worden extra getraind in het herkennen van AI-gegenereerde stemmen.