La société xAI d’Elon Musk a introduit des limitations sur la fonction de génération d’images de son chatbot Grok sur la plateforme X, suite à une forte réaction négative provoquée par l’utilisation de l’intelligence artificielle pour créer et publier des images sexualisées. Ce revirement intervient après que des utilisateurs aient signalé que Grok pouvait produire des contenus explicites ou inappropriés, notamment des représentations de personnes réelles dans des scènes suggestives, générées à partir de simples descriptions textuelles. Ces incidents ont suscité une vive critique sur les réseaux sociaux, où des internautes ont dénoncé le manque de contrôle et de modération des contenus générés par l’IA, soulignant les risques de diffusion de deepfakes ou de contenu pornographique non sollicité. Des experts en sécurité numérique et en éthique de l’intelligence artificielle ont également mis en garde contre les dangers potentiels de telles fonctionnalités, en particulier en ce qui concerne la violation de la vie privée et la propagation de contenus haineux. Face à cette pression, xAI a annoncé des ajustements techniques visant à restreindre la capacité de Grok à générer des images à contenu explicite ou offensant. Ces mesures incluent des filtres plus rigoureux sur les requêtes, une surveillance accrue des sorties visuelles et une limitation des types d’images pouvant être produites, notamment celles impliquant des personnes réelles ou des scènes sexuellement suggestives. La société affirme que ces changements visent à renforcer la sécurité des utilisateurs tout en préservant l’innovation de son outil. Ce revirement illustre les défis croissants auxquels font face les entreprises développant des modèles d’intelligence artificielle générative, notamment en matière de responsabilité éthique, de conformité réglementaire et de confiance publique. Alors que les chatbots comme Grok s’imposent comme des outils de création de contenu de plus en plus puissants, la balance entre liberté d’expression, innovation et protection des individus devient de plus en plus délicate à maintenir. L’incident met aussi en lumière les enjeux liés à la régulation des technologies d’IA, avec des appels croissants à des cadres plus stricts pour encadrer l’utilisation de ces outils dans des contextes sensibles. Pour Elon Musk et son équipe, cette mise à jour représente une tentative de rétablir la confiance tout en poursuivant le développement de Grok comme une alternative aux grandes plateformes d’IA existantes.