Naar inhoud springen

ChatGPT kan ‘Ik ben geen robot’-test omzeilen: hoe kan dat?

Nieuws
ChatGPT kan ‘Ik ben geen robot’-test omzeilen hoe kan dat
Mijn AI-assistent liep bij een WordPress-website tegen de bekende ‘Ik ben geen robot’-controle aan. De assistent vroeg toestemming om de reCAPTCHA uit te voeren, waarna ik akkoord gaf. Een computer die namens mij een mensentest afhandelt: het klinkt tegenstrijdig, maar achter dat vakje gebeurt meer dan je ziet.

Eerst even toestemming vragen

Het scherm meldde dat de controle een extra beveiligingsmaatregel was voor websites met WordPress of Joomla. Vóór het inloggen moest de bezoeker bevestigen dat hij een mens was.
Mijn assistent meldde dat hij bij reCAPTCHA wachtte en vroeg mij de controle goed te keuren of zelf in de browser af te ronden.
Mijn antwoord: “Yes, complete the reCAPTCHA.”
Dat is een bijzondere tussenstap bij een website bouwen en beheren met AI. Je besteedt computerwerk uit, waarna diezelfde computer een controle tegen geautomatiseerd bezoek tegenkomt.
De gedeelde screenshots tonen het toestemmingsverzoek en de controle zelf. Een geslaagde eindstatus of opgeloste beeldpuzzel staat niet in beeld. Die beelden vertellen dus niet welke eventuele aanvullende test de assistent moest afleggen.

Achter het vakje zit een risicoanalyse

Google legt in de documentatie over reCAPTCHA v2 uit dat het aanklikken van ‘I’m not a robot’ twee uitkomsten kan hebben. Het systeem laat de bezoeker direct door, of het vraagt om een aanvullende controle.
Wie na één klik verder mag, heeft dus niet noodzakelijk een verzameling verkeerslichten of fietsen op foto’s aangewezen. Soms vindt het systeem de beschikbare signalen al overtuigend genoeg.
Dat principe bestaat al jaren. Bij de introductie van de checkbox in 2014 beschreef Google hoe de achterliggende risicoanalyse interacties vóór, tijdens en na de controle beoordeelt. Bij onvoldoende vertrouwen volgt een extra uitdaging.
De tekst naast het vakje vat daarmee een ingewikkelder proces samen. Google neemt geen genoegen met de mededeling “ik ben geen robot”, maar probeert met aanvullende signalen geautomatiseerd misbruik te herkennen.
Welke signalen bij mijn sessie de doorslag gaven, valt uit de screenshots niet af te leiden.
ik ben geen robotje

AI kan ook beeldpuzzels oplossen

Bij een beeldpuzzel moet software daadwerkelijk iets herkennen: welke foto bevat een fiets, of in welke vakjes staat een verkeerslicht? Ook zulke opdrachten liggen binnen het bereik van AI.
Onderzoekers Andreas Plesner, Tobias Vontobel en Roger Wattenhofer van ETH Zürich beschreven dat in hun onderzoek naar reCAPTCHA v2, dat in september 2024 op arXiv verscheen. Hun speciaal getrainde systeem kon volgens de onderzoekers alle aangeboden CAPTCHA’s in de uiteindelijke testopzet afronden.
Die score van 100 procent vraagt om context. Het systeem had soms meerdere uitdagingen nodig voordat het toegang kreeg. De onderzoekers maten dus geen foutloze herkenning van ieder plaatje bij de eerste poging.
Het onderzoek ging bovendien over een specifieke opzet en reCAPTCHA v2. Je kunt de uitkomst niet rechtstreeks vertalen naar iedere chatbot, website of nieuwere beveiligingsmethode. Het toont wel concreet aan dat deze beeldpuzzels geen vaardigheid vereisen die uitsluitend mensen bezitten.

Een AI-assistent werkt namens iemand

In mijn voorbeeld zat er een mens achter de opdracht. Ik wilde aan een website werken en gaf de assistent toestemming om een stap uit te voeren. Mijn toestemming aan de AI en de beoordeling door reCAPTCHA zijn twee afzonderlijke gebeurtenissen.
Dat maakt de situatie interessant voor websites die AI-assistenten ontvangen. Een agent kan namens een gebruiker een legitieme taak uitvoeren, zoals een formulier invullen. Andere software kan dezelfde website benaderen om spam te verspreiden. Alleen vaststellen dat software meedoet, vertelt nog niet genoeg over de bedoeling of de bevoegdheid van de gebruiker.
Die vraag speelt ook bij werkomgevingen zoals Claude Cowork, waarin je complete taken aan AI overdraagt. Zodra een assistent websites bedient, krijgt hij te maken met controles die oorspronkelijk rond menselijke bezoekers zijn ingericht.
Google biedt ook een aanpak zonder zichtbaar puzzeltje. reCAPTCHA v3 geeft een risicoscore op basis van interacties met de website. De beheerder bepaalt welke vervolgstap daarbij past. Google noemt bijvoorbeeld extra authenticatie bij een verdachte inlogpoging: de bezoeker moet dan nog een aanvullende verificatie doorlopen.
loading

Populair nieuws

Laatste reacties

Loading