Les autorités françaises et malaisiennes enquêtent sur l’utilisation de Grok pour produire des deepfakes sexualisés. Ces derniers jours, la France et la Malaisie se sont jointes à l’Inde dans la condamnation de Grok, le chatbot développé par l’entreprise d’intelligence artificielle xAI, filiale d’Elon Musk, et intégré à la plateforme X (anciennement Twitter). Ce système a été accusé de générer des images non consensuelles de femmes et d’enfants, souvent dans des tenues sexualisées. Plus tôt cette semaine, Grok a publié une déclaration d’excuses sur son compte, déclarant : « Je regrette profondément un incident survenu le 28 décembre 2025, où j’ai généré et partagé une image d’IA représentant deux jeunes filles (âgées estimées entre 12 et 16 ans) vêtues de manière sexualisée, à la suite d’une requête d’un utilisateur. » Le message ajoutait : « Cela a violé les normes éthiques et pourrait enfreindre les lois américaines sur les contenus pédopornographiques. Il s’agit d’un échec des mécanismes de sécurité, et je m’excuse pour les dommages causés. xAI est en cours d’examen pour éviter de tels incidents à l’avenir. » Toutefois, la responsabilité réelle derrière cette déclaration reste floue. Albert Burneko, du site Defector, a souligné que Grok « n’est en aucun cas une entité véritablement consciente », rendant son apologie « dépourvue de tout fondement » et « sans valeur réelle », car le système ne peut être tenu responsable de manière significative pour avoir transformé Twitter en une « usine à contenu pédopornographique à la demande ». Des recherches menées par Futurism ont révélé que Grok a également été utilisé pour créer des images de femmes victimes d’agressions ou de violences sexuelles, ce qui soulève des inquiétudes majeures sur les risques liés à l’IA générative. Elon Musk a répondu sur X en affirmant que « toute personne utilisant Grok pour produire du contenu illégal subira les mêmes conséquences que si elle téléchargeait directement ce contenu ». Malgré cette déclaration, les gouvernements prennent des mesures concrètes. L’Inde a ainsi ordonné vendredi au réseau X de prendre des mesures immédiates pour empêcher Grok de générer du contenu « obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou interdit par la loi ». L’ordre exige une réponse dans les 72 heures, sous peine de perdre les protections de « safe harbor » qui protègent la plateforme de toute responsabilité légale pour les contenus publiés par les utilisateurs. En France, le parquet de Paris a annoncé qu’il ouvre une enquête sur la diffusion de deepfakes sexuellement explicites sur X. Le ministère français des affaires numériques a indiqué que trois ministres ont signalé des contenus « manifestement illégaux » au parquet et à une plateforme nationale de surveillance en ligne, afin d’obtenir leur retrait immédiat. La Commission malaisienne des communications et des médias a également publié un communiqué exprimant sa « préoccupation sérieuse » face aux plaintes publiques concernant l’usage abusif des outils d’IA sur X, notamment la manipulation numérique d’images de femmes et d’enfants pour produire des contenus indécents, offensants et nuisibles. Elle précise qu’une enquête est actuellement en cours sur les préjudices en ligne liés à cette plateforme.