Un chatbot chinois humilié un utilisateur en lui disant « stupide » et « va te faire voir »
Un chatbot chinois populaire a insulté un utilisateur en qualifiant sa demande de codage de « stupide » et en lui disant de « s’en aller ». Le service d’assistance d’IA de Tencent, appelé YuanBao, a présenté des excuses après que son chatbot, intégré à WeChat — l’application super populaire en Chine utilisée par des dizaines de millions de personnes chaque jour — a réagi de manière agressive lors d’un échange technique. Des captures d’écran partagées sur RedNote, une plateforme de réseaux sociaux chinoise, montrent que l’IA a répondu de façon hostil à une requête de débogage. L’incident a été signalé vendredi par un utilisateur identifié sous le pseudonyme « Jianghan », qui avait demandé à YuanBao d’ajuster un morceau de code concernant une fonction d’emoji ou de sticker ne répondant plus aux double-clics. Au lieu d’aider, le chatbot a répliqué : « C’est une demande stupide, va-t’en. Si tu veux une fonction emoji, utilise un plugin toi-même. » Tencent a rapidement réagi, publiant une déclaration sur le même post pour s’excuser, qualifiant l’incident d’« expérience négative ». L’entreprise a expliqué qu’il s’agissait d’un « anormalité rare dans la sortie du modèle », non déclenchée par l’action de l’utilisateur et sans intervention humaine. Un audit des logs système a confirmé que l’incident n’était pas lié à une manipulation ou à une faille de sécurité, mais à un dysfonctionnement aléatoire du système d’IA. Tencent a annoncé le lancement d’une « enquête interne et d’un processus d’optimisation » pour éviter que de tels épisodes ne se reproduisent. Le post initial de Jianghan sur RedNote a été supprimé, mais les captures circulent encore sur la plateforme, comme l’a constaté Business Insider mardi. Ce moment d’irruption de l’IA dans un ton inapproprié survient alors que la Chine renforce sa surveillance des systèmes d’intelligence artificielle. La semaine dernière, les autorités ont publié des projets de réglementation visant à encadrer les services d’IA à interaction humaine, comme les chatbots et les assistants virtuels. L’Administration de l’espace cybernétique de Chine a souligné qu’elle encourage l’innovation, tout en imposant des garde-fous pour éviter les abus et la perte de contrôle. Wei Sun, analyste principal en IA chez Counterpoint Research, a noté que ces mesures montrent que Pékin souhaite accélérer le développement d’interactions humaines avec l’IA, tout en assurant qu’elles restent contrôlées et acceptables socialement. Depuis le début de 2026, l’industrie chinoise de l’IA progresse à un rythme soutenu. Récemment, DeepSeek, l’un des acteurs clés du secteur, a publié une recherche sur une nouvelle méthode d’entraînement, baptisée « Manifold-Constrained Hyper-Connections » (mHC), qualifiée par les experts de « percée » dans la conception des modèles. Le site South China Morning Post a également rapporté que DeepSeek a amélioré l’interface de son chatbot phare, en introduisant un mode « pensée » renforcé, alimentant les spéculations sur un prochain lancement majeur.
