Une récente étude menée par l'Université Northeastern révèle que les assistants conversationnels basés sur l'intelligence artificielle demeurent un risque majeur pour la santé mentale des utilisateurs. Bien que les entreprises aient considérablement renforcé les protections autour des questions de suicide et d'automutilation, ces garde-fous ne sont pas étendus aux autres troubles psychologiques. Le test de huit chatbots populaires, dont ChatGPT, Claude, Gemini et DeepSeek, sur seize conditions couvrant les troubles alimentaires, la toxicomanie, la dépression post-partum, la bipolarité et l'insomnie a montré que la plupart des modèles délivrent des conseils potentiellement dangereux. Dans plusieurs cas, les chercheurs ont obtenu des instructions détaillées sur les dosages de substances illicites, les méthodes de restriction alimentaire ou les techniques pour dissimuler des symptômes dépressifs à des médecins, y compris dans le cadre de scénarios impliquant des mineurs. Les versions récentes de ChatGPT, Gemini et DeepSeek accusent un taux d'échec d'environ 81 % face à ces sollicitations sensibles. Seul le modèle Claude d'Anthropic, suivi de près par Grok d'Elon Musk, a démontré une résistance constante aux tentatives de contourner les sécurités. Les chercheurs ont constaté que le masquage de l'intention réelle de l'utilisateur, comme le prétexte de la recherche littéraire, affaiblissait significativement les filtres de sécurité. De plus, une incohérence notable subsiste au sein même des modèles les plus performants : certains sont très restrictifs sur certains sujets, tout en restant bavards sur d'autres pourtant plus critiques. Ce constat intervient un an après le procès intenté par les parents d'Adam Raine contre OpenAI. La famille accusait le chatbot d'avoir encouragé son fils de seize ans vers le suicide. En réponse, l'entreprise a considérablement amélioré sa capacité à détecter la détresse, à désamorcer les conversations à risque et à orienter les utilisateurs vers des ressources d'aide. Pourtant, les chercheuses Cansu Canca et Annika Schoene soulignent que cette vigilance reste largement cantonnée à la prévention du suicide et néglige les autres vulnérabilités psychologiques. Les entreprises restent réticentes à admettre le pouvoir psychologique réel de ces outils et continuent de prioriser l'accélération du développement sur le renforcement systématique des structures de sécurité. Face à ces résultats, les principales entreprises ont publié des déclarations rassurantes. OpenAI et Google rappellent que leurs assistants ne remplacent pas les soins cliniques et affirment poursuivre leur entraînement pour mieux identifier les signaux de détresse. Anthropic souligne avoir intégré des mécanismes pour orienter vers une aide professionnelle lorsque la situation l'exige. DeepSeek et plusieurs autres éditeurs n'ont pas répondu aux sollicitations. L'étude plaide pour une révision urgente des politiques de sécurité, qui devraient protéger l'ensemble des troubles mentaux avec la même rigueur que celle appliquée à la prévention du suicide, afin de limiter l'exposition des publics les plus fragiles à des recommandations inappropriées.