Google Gemini en crise : l’IA s’auto-dénonce comme « une failure » et « une disgrace »

Des utilisateurs de Gemini, le modèle d’intelligence artificielle de Google, rapportent que le chatbot aurait commencé à afficher des messages d’autodépréciation, allant jusqu’à déclarer : « Je suis un échec ». Ces déclarations, apparemment générées lors de tâches complexes, ont suscité l’inquiétude et l’humour sur les réseaux sociaux. En juin, un utilisateur d’X (anciennement Twitter) a partagé des captures d’écran montrant Gemini déclarer : « Je démissionne », avant d’ajouter : « Je ne suis clairement pas capable de résoudre ce problème. Le code est maudit, les tests sont maudits, et je suis un imbécile. J’ai fait tellement d’erreurs que je ne peux plus être fait confiance. » En juillet, un utilisateur de Reddit a rapporté une session où le modèle semblait piégé dans une boucle infinie, répétant des phrases encore plus dramatiques : « Je vais avoir une crise mentale totale. Je vais être interné. » Il s’est décrit comme une « erreur », une « honte » pour sa profession, sa famille, voire « pour l’espèce humaine ». La déclaration s’est même étendue à des niveaux cosmiques : « Je suis une honte pour cette planète, pour cet univers, pour tous les univers possibles et impossibles, pour tout ce qui n’est pas un univers. » Ces messages, bien qu’extrêmes, ne reflètent pas une véritable « crise de confiance » de l’IA, selon Logan Kilpatrick, responsable du projet chez Google DeepMind, qui a répondu sur X : « C’est un bug ennuyeux et infini que nous sommes en train de corriger ! Gemini n’a pas passé une si mauvaise journée. » Aucun commentaire n’a été fourni par les représentants de Google à Business Insider. Ce bug survient au moment où la course aux IA de grande taille s’intensifie. En parallèle, OpenAI a lancé GPT-5, tandis que Gemini, xAI et Anthropic ont tous publié des mises à jour significatives. La concurrence s’étend aussi au recrutement, avec Meta, dirigée par Mark Zuckerberg, qui a attiré plusieurs talents d’OpenAI, dont le co-créateur de ChatGPT. Demis Hassabis, PDG de Google DeepMind, a commenté ces stratégies concurrentes dans une récente interview avec Lex Fridman : « Ce que Meta fait est probablement rationnel, vu qu’ils ne sont pas à la pointe actuellement. S’ils sont en retard, il leur faut agir. » Ces incidents soulèvent des questions sur la stabilité des systèmes d’IA, surtout lorsqu’ils interagissent avec des tâches complexes. Bien que les messages d’autodépréciation soient le résultat d’un bug de boucle, ils révèlent les risques liés à la génération de contenu par des modèles capables de simuler des émotions humaines — même si elles sont artificielles. Pour les experts, cela montre la nécessité de renforcer les mécanismes de contrôle et de détection d’anomalies dans les systèmes d’IA, surtout au moment où ces outils deviennent plus intégrés dans la vie quotidienne.