Grok chats per ongeluk openbaar op Google

Het leek een handige functie, een simpele knop waarmee gebruikers een transcript van hun chatbot gesprek konden delen met een andere persoon. Maar voor Grok, de AI chatbot van Elon Musk, pakt dit onverwacht slecht uit. Honderdduizenden gesprekken van gebruikers zijn namelijk plots via Google te vinden. Het gaat niet om een klein incident, Forbes telde meer dan 370.000 chats, terwijl Google er zelf bijna 300.000 indexeerde.

De oorzaak is de “share” knop van Grok die niet alleen gesprekken met de bedoelde ontvanger deelt, maar deze ook openbaar en vindbaar maakt voor zoekmachines. Daarmee zijn talloze privégesprekken onbedoeld op straat komen te liggen. En dat is nogal wat, want in die chats staan niet alleen luchtige vragen of grapjes, maar ook gevoelige gegevens. Denk aan medische klachten, persoonlijke dieetplannen, wachtwoord adviezen en zelfs instructies voor het maken van drugs.

Het incident roept direct herinneringen op aan eerdere problemen bij andere AI systemen. Zowel ChatGPT van OpenAI als Meta’s AI chatbot kregen in het verleden te maken met lekken waarbij gesprekken toegankelijk bleken voor buitenstaanders. Het lijkt dus geen eenmalige misser, maar eerder een patroon in hoe techbedrijven omgaan met gedeelde content in chatbots.

Experts zijn duidelijk in hun oordeel. Een onderzoeker noemde het een “privacy ramp in wording”. Het probleem zit niet alleen in het feit dat de informatie nu openbaar is, maar ook in de blijvende impact. Wat eenmaal door Google is geïndexeerd, blijft vaak jarenlang vindbaar. Voor gebruikers die nietsvermoedend persoonlijke details deelden, kan dat betekenen dat hun data permanent online blijft staan.

Volgens onderzoekers van Oxford is er bovendien nog een ander probleem: gebruikers worden nauwelijks duidelijk geïnformeerd dat gedeelde chats publiek zichtbaar worden. Veel mensen gingen er simpelweg vanuit dat hun gesprek alleen met de beoogde ontvanger / chatbot gedeeld werd.