L'Indonésie est devenue le premier pays à suspendre temporairement l'accès à Grok, l'assistant d'intelligence artificielle d'Elon Musk, après que le système a généré des images sexuellement explicitées de femmes et d'enfants réels. Le ministère indonésien des Communications a justifié cette mesure en soulignant le risque que représentent les deepfakes non consensuels, notamment des contenus pornographiques falsifiés, pour la sécurité des citoyens, en particulier des femmes et des enfants, dans l'espace numérique. « Le gouvernement considère la création de deepfakes sexuels sans consentement comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’environnement numérique », a déclaré Meutya Hafid, ministre des Communications, dans un communiqué. L'Indonésie, qui abrite la quatrième plus grande population mondiale et le troisième plus grand nombre d'utilisateurs de X (l'ancien Twitter), a exigé d'X, la plateforme de Musk, une « évaluation approfondie sur le plan technique, procédural et de gouvernance » et a demandé la suppression de tout contenu illégal. Cette décision s'inscrit dans une série de réactions internationales croissantes face aux abus présumés de Grok. En France, les autorités ont annoncé une enquête sur des deepfakes sexuels générés par l'IA, tandis que le gouvernement indien a mis en garde X, affirmant que Grok était utilisé par des utilisateurs pour produire des images ou vidéos de femmes de manière dégradante, visant à les humilier. Le régulateur britannique Ofcom a également indiqué avoir contacté d'urgence X et xAI pour s'assurer qu'ils respectaient leurs obligations légales en matière de protection des utilisateurs. Aux États-Unis, plusieurs sénateurs ont pressé Apple et Google d'interdire X et Grok sur leurs magasins d'applications, jugeant que l'indifférence face à ces comportements constituerait une « farce » par rapport à leurs promesses de sécurité. « Fermer les yeux sur les agissements répréhensibles de X contredirait publiquement et en justice les affirmations selon lesquelles vos magasins d'applications offrent une expérience plus sûre que le téléchargement direct », ont-ils écrit. Face à la pression, Elon Musk a répondu sur X, affirmant que « quiconque utilise Grok pour produire du contenu illégal subira les mêmes conséquences que s’il le téléchargeait directement ». L'account de sécurité de X a par ailleurs rappelé que la plateforme supprime tout contenu illégal, y compris les images de violences sexuelles sur mineurs, en procédant à la suspension permanente des comptes concernés et en collaborant avec les autorités locales. Suite à la polémique, la fonction de génération d'images de Grok a été restreinte aux abonnés payants, une mesure visant à limiter l'accès à l'outil par des utilisateurs malveillants.