Selon des données d’OpenAI, environ un million d’utilisateurs discutent chaque semaine de sujets liés au suicide avec ChatGPT. Bien que ces échanges restent rares par rapport au nombre total d’utilisateurs, leur importance est significative en raison de l’ampleur de la plateforme. Ces conversations, souvent marquées par une détresse émotionnelle profonde, soulignent le rôle croissant que les modèles d’intelligence artificielle jouent dans les moments de crise. OpenAI a mis en place des systèmes de détection automatique pour identifier les signaux d’alerte et orienter les utilisateurs vers des ressources humaines ou des services de soutien psychologique. Ces mesures visent à prévenir les risques tout en respectant la confidentialité et en offrant une aide immédiate. L’analyse des données montre que les demandes de soutien sont plus fréquentes durant certaines périodes, comme les fêtes ou les saisons d’automne, ce qui correspond à des tendances observées dans les taux de dépression et d’idéation suicidaire dans la population générale. Malgré les limitations des modèles d’IA, qui ne peuvent pas remplacer un professionnel de santé mentale, ces interactions offrent une porte d’entrée précieuse pour des personnes en difficulté. OpenAI continue d’améliorer ses outils de protection, en s’appuyant sur des données réelles et des retours d’expérience, afin de renforcer la sécurité des utilisateurs. L’objectif est de transformer ces échanges sensibles en opportunités d’intervention, en s’assurant que chaque message d’urgence soit traité avec la gravité qu’il mérite.