Indonesië heft voorwaardelijk verbod op Grok op

De Indonesische overheid heeft besloten het tijdelijke verbod op de AI-chatbot Grok weer op te heffen, maar onder strenge voorwaarden. De chatbot, ontwikkeld door het Amerikaanse bedrijf xAI en gekoppeld aan het sociale netwerk X, was ongeveer drie weken geleden geblokkeerd nadat hij werd gebruikt om grote aantallen seksueel expliciete beelden te genereren, waaronder deepfakes van vrouwen en kinderen. Toegang tot de dienst mag nu onder toezicht worden hersteld, mits Grok voldoet aan extra eisen van de Indonesische autoriteiten en misbruik in de toekomst wordt tegengegaan, volgens TechCrunch.

In januari besloot Indonesië als eerste land Grok tijdelijk te verbieden. De regering vond dat de chatbot, die ook beeldgeneratie-functies heeft, zonder voldoende controle kon worden gebruikt om niet-consensuele en seksueel getinte beelden te creëren van echte mensen. Analyse door internationale organisaties liet zien dat miljoenen zulke afbeeldingen via Grok werden geproduceerd en verspreid, wat leidde tot zorgen over privacy, veiligheid en de bescherming van kinderen in de digitale ruimte. Ook andere landen in de regio, zoals Maleisië en de Filipijnen, blokkeerden de dienst tijdelijk vanwege vergelijkbare problemen.

De beslissing om de dienst te blokkeren kwam op een moment dat regeringen wereldwijd worstelen met de snelheid waarmee generatieve AI-tools nieuwe vormen van misbruik mogelijk maken. De tools zijn ontworpen om op verzoek beelden, tekst of andere inhoud te creëren, maar blijken moeilijk te reguleren zodra gebruikers er ongepaste of schadelijke opdrachten mee geven.

De Indonesische minister van Communicatie en Digitale Zaken liet weten dat Grok weer toegang tot diensten krijgt, maar alleen op een voorwaardelijke basis en onder strenge supervisie. De minister zei dat xAI een formele brief had gestuurd met concrete plannen om de dienst te verbeteren en misbruik tegen te gaan. In die brief legt het bedrijf uit welke maatregelen het wil nemen om ervoor te zorgen dat Grok diensten aanbiedt die voldoen aan de lokale wetten en regels.

De toezeggingen van xAI vormen volgens de autoriteiten een startpunt voor voortdurende evaluatie en toezicht. De minister verklaarde dat als er opnieuw schendingen of problemen worden ontdekt, de toegang weer kan worden ingetrokken. De nadruk ligt op een aanpak waarin de overheid de naleving blijft controleren en indien nodig corrigerende stappen neemt.

Details over de specifieke technische of organisatorische maatregelen die xAI heeft beloofd zijn niet uitgebreid gepubliceerd. Het lijkt erop dat het bedrijf zijn systemen en moderatie verder wil versterken om te voorkomen dat de AI wordt gebruikt voor het genereren van ongepaste content. In andere landen heeft xAI al sommige functies van Grok beperkt, bijvoorbeeld door beeldgeneratie alleen beschikbaar te maken voor betalende gebruikers.

Indonesische ambtenaren benadrukken dat de heropening van Grok niet zonder toezicht is. Er wordt gesproken over een “laagjessysteem” van controles en procedures die de verspreiding van expliciete of illegale inhoud moeten stoppen. Het ministerie zei dat het voortdurend zal verifiëren of deze maatregelen effectief zijn, en desnoods opnieuw zal ingrijpen.