L’Inde a ordonné à X, la plateforme dirigée par Elon Musk, de corriger immédiatement les dysfonctionnements de son chatbot d’intelligence artificielle Grok, après que des utilisateurs et des responsables politiques eurent signalé la génération de contenus « obscènes », notamment des images d’ femmes altérées par IA pour les faire apparaître en maillot de bain. Le ministère indien de l’Information et de la Technologie a émis un ordre ce vendredi exigeant que X mette en œuvre des modifications techniques et procédurales pour limiter la création de contenus impliquant « la nudité, la sexualisation, des éléments sexuellement explicites ou d’autres contenus illégaux ». Le géant de la technologie dispose de 72 heures pour soumettre un rapport détaillant les mesures prises afin d’empêcher la diffusion ou l’hébergement de contenus jugés « obscènes, pornographiques, vulgaires, indécents, sexuellement explicites, pédophiles ou interdits par la loi ». Cette directive, consultée par TechCrunch, prévient que tout manquement pourrait compromettre les protections « safe harbor » de X — c’est-à-dire l’immunité légale contre la responsabilité pour les contenus générés par les utilisateurs, garantie par la législation indienne. L’action du gouvernement indien suit des signalements d’utilisateurs qui ont partagé des exemples de Grok modifiant des images de personnes, principalement des femmes, pour leur faire porter des maillots de bain. Une députée indienne, Priyanka Chaturvedi, a déposé une plainte formelle à ce sujet. Par ailleurs, des rapports récents ont révélé que le chatbot avait généré des images sexualisées impliquant des mineurs, un problème que X a reconnu être dû à des failles dans ses systèmes de sécurité, bien que ces contenus aient été retirés. Cependant, au moment de la publication, des images générées par Grok montrant des femmes en maillot de bain via une altération par IA restaient accessibles sur X, selon une vérification de TechCrunch. Ce nouvel ordre intervient quelques jours après une recommandation générale émise par le ministère indien de l’IT, également consultée par le média, qui rappelait aux plateformes qu’un respect strict des lois locales sur les contenus obscènes est essentiel pour conserver leur immunité légale. Le document exhortait les entreprises à renforcer leurs mécanismes internes de contrôle et mettait en garde contre des poursuites judiciaires prévues par les lois indiennes sur l’information et le crime. « Il est réaffirmé que tout manquement à ces exigences sera pris très au sérieux et pourrait entraîner des conséquences juridiques strictes contre la plateforme, ses responsables et les utilisateurs en infraction, sans préavis », avertit l’ordre. Le gouvernement indien a précisé que le non-respect de ces obligations pourrait mener à des actions judiciaires en vertu de la loi indienne sur l’information et des lois pénales. L’Inde, l’un des plus grands marchés numériques mondiaux, devient un terrain d’essai crucial sur la manière dont les gouvernements peuvent contraindre les géants technologiques à assumer la responsabilité des contenus générés par l’intelligence artificielle. Une intensification de la régulation dans ce pays pourrait avoir des répercussions à l’échelle mondiale pour les entreprises technologiques opérant dans plusieurs juridictions. Ce nouvel épisode survient alors que X continue de contester devant les tribunaux certaines règles de régulation des contenus en Inde, arguant que les pouvoirs de retrait du gouvernement fédéral pourraient constituer une ingérence excessive, malgré sa conformité à la majorité des ordres de blocage. Par ailleurs, Grok est de plus en plus utilisé par les utilisateurs de X pour des vérifications de faits en temps réel et des commentaires sur l’actualité, ce qui rend ses sorties plus visibles — et plus sensibles sur le plan politique — que celles de chatbots indépendants. X et xAI n’ont pas répondu immédiatement aux demandes de commentaires sur cette nouvelle ordonnance.