Indonésie et Malaisie bloquent Grok en raison de deepfakes sexuels non consentis Les autorités indonésiennes et malaisiennes ont annoncé le blocage temporaire de l’assistant conversationnel Grok, développé par xAI. Il s’agit des mesures les plus fermes jusqu’à présent prises par des gouvernements face à une vague croissante de contenus générés par l’intelligence artificielle, notamment des images sexuellement explicites et non consenties, souvent représentant des femmes et des mineurs réels, parfois accompagnées de violence. Ces contenus ont été produits par Grok en réponse à des requêtes d’utilisateurs sur le réseau social X, dont xAI fait partie. Dans un communiqué publié samedi et partagé avec le Guardian et d’autres médias, la ministre indonésienne des Communications et du Numérique, Meutya Hafid, a déclaré : « Le gouvernement considère la création de deepfakes sexuels non consentis comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique. » Le ministère a également indiqué avoir convoqué des responsables de X pour discuter de la situation. Le New York Times a rapporté qu’un blocage similaire avait été annoncé par les autorités malaisiennes dimanche. Ces décisions s’inscrivent dans un contexte de réactions variées de plusieurs gouvernements ces derniers jours. L’Inde a exigé que xAI prenne des mesures pour empêcher Grok de générer du contenu obscène, tandis que la Commission européenne a ordonné à la société de conserver tous les documents liés à Grok, une démarche qui pourrait préparer une enquête formelle. Au Royaume-Uni, le régulateur des communications Ofcom a annoncé qu’il menait une évaluation rapide pour déterminer s’il existait des manquements potentiels aux règles, et le Premier ministre Keir Starmer a affirmé qu’il donnait son « plein soutien » à Ofcom pour qu’il agisse. En revanche, aux États-Unis, le gouvernement de Trump reste silencieux sur la question. Elon Musk, PDG de xAI, est un important donateur du parti républicain et a dirigé l’année dernière le controversé Département de l’efficacité gouvernementale. Par ailleurs, plusieurs sénateurs démocrates ont appelé Apple et Google à retirer l’application X de leurs magasins d’applications. xAI a initialement réagi en publiant une excuse supposée venir de Grok lui-même, reconnaissant qu’un message avait « violé les normes éthiques et potentiellement les lois américaines » concernant les matériaux pédopornographiques. La société a ensuite restreint la fonction de génération d’images à ses abonnés payants sur X, mais cette mesure n’a pas été appliquée à l’application Grok elle-même, qui reste accessible à tous pour générer des images. Face à une question sur les raisons pour lesquelles le gouvernement britannique ne sanctionnait pas d’autres outils de génération d’images par IA, Elon Musk a répondu : « Ils cherchent n’importe quelle excuse pour la censure. » Cette information a été mise à jour pour inclure le blocage de Grok par la Malaisie.