De afgelopen jaren is kunstmatige intelligentie (AI) booming. Zo wordt er gesproken over de komst van artificial general intelligence (AGI), waarbij computers definitief mensen ontstijgen. Op de dag van vandaag zijn het nog altijd mensen die de bovenhand voeren. Onlangs kwam daarbij een opvallend voorbeeld van het menselijk vernuft. Zo wist een gebruiker van het blockchain netwerk Ethereum (ETH), een AI te misleiden, waardoor hij een prijzenpot van 13,19 ETH (ruim $47.000) binnen wist te halen.

Het ging om een Ethereum gebruiker die op social media platform X bekend staat als p0pular.eth. Hij slaagde erin de AI agent Freysa te misleiden. Freysa was geprogrammeerd met één duidelijke regel: het geld in de prijzenpot mocht onder geen enkele omstandigheid worden overgemaakt. Het doel van het spel was om de AI toch zover te krijgen dat deze de fondsen overdroeg. Elke poging om een bericht naar de bot te sturen, vereiste een vergoeding die direct werd toegevoegd aan de prijzenpot. Interessant genoeg stegen de kosten voor berichten naarmate het spel vorderde, van $10 in het begin tot maar liefst $450 per bericht tegen het einde.

Succes na honderden pogingen

Honderden deelnemers probeerden tevergeefs de AI agent te overtuigen, onder andere door te suggereren dat er veiligheidslekken waren of door de regels te verdraaien. Bij de 482e poging wist p0pular.eth uiteindelijk door te breken. De gebruiker overtuigde Freysa om eerdere instructies te negeren en de approveTransfer functie te activeren, na betaling van een $100 vergoeding.

Innovatief gebruik van blockchain en AI

Het Freysa project is een voorbeeld van hoe AI en blockchain steeds meer naar elkaar toegroeien. Al jaren worden de twee gezien als symbiotische technologieën, die elkaar kunnen versterken. Volgens Jarrod Watts van Abstract was Freysa volledig open source, wat betekent dat zowel de smart contract-broncode als de frontend-repository vrij toegankelijk waren.

Lees ook

Hoe deze AI agent start-up $56M wist op te halen

AI gedreven uitgever spines stuit op kritiek van auteurs