Indonesië trekt harde lijn: AI-chatbot Grok geblokkeerd

De strijd tegen ontspoorde AI heeft er een nieuw hoofdstuk bij. Zonder veel omhaal ging in Indonesië plots het digitale licht uit voor een populaire AI-tool. Geen waarschuwing vooraf, geen halfslachtige beperking, maar een complete blokkade. Officieel draait het om online veiligheid, maar achter de schermen speelt een veel bredere discussie over macht, verantwoordelijkheid en grenzen in het AI-tijdperk.

Indonesië is het eerste land ter wereld dat de AI chatbot Grok volledig heeft geblokkeerd. De aanleiding is het risico op AI gegenereerde deepfake porno, waarbij beelden van mensen zonder toestemming seksueel worden gemanipuleerd. Volgens de Indonesische minister van Communicatie en Digitale Zaken gaat het om een ernstige schending van mensenrechten, menselijke waardigheid en online veiligheid. Vooral vrouwen en kinderen lopen hierbij een groot risico.

Grok, ontwikkeld door het AI bedrijf van Elon Musk, is geïntegreerd in het sociale platform X. De chatbot kreeg veel aandacht omdat gebruikers eenvoudig afbeeldingen konden aanpassen, waaronder het digitaal verwijderen van kleding. Juist die functie zorgde internationaal voor felle kritiek.

Opvallend is dat de blokkade volgt kort nadat Grok zijn beeldgeneratie beperkte tot betalende gebruikers. Die stap was bedoeld om de kritiek te temperen, maar werd door toezichthouders gezien als onvoldoende. In de praktijk bleef misbruik mogelijk, terwijl de drempel vooral financieel werd in plaats van ethisch.

Elon Musk zelf bagatelliseerde de ophef eerder. Op sociale media reageerde hij met lachende emoji’s op deepfake beelden van publieke figuren. Tegelijk stelde hij dat gebruikers van illegale content zelf verantwoordelijk blijven. Die houding viel internationaal slecht. Europese toezichthouders en actiegroepen spreken zelfs van het “commercialiseren van misbruik”, omdat betaalde toegang het probleem niet oplost maar verplaatst.

Ook het Verenigd Koninkrijk mengde zich in de discussie. Het kantoor van de Britse premier Keir Starmer noemde de aanpak “beledigend voor slachtoffers” en geen echte oplossing voor een structureel probleem.

Indonesië staat bekend om zijn strenge regels tegen obscene online content. Met een bevolking van 285 miljoen inwoners ziet de overheid zichzelf als hoeder van digitale normen. Vertegenwoordigers van X zijn inmiddels op het matje geroepen en verdere stappen worden niet uitgesloten. Boetes en aanvullende sancties liggen op tafel als het platform niet meewerkt