Les chatbots IA promettent de révolutionner la santé mentale, mais l’éthique ne doit pas être négligée

La thérapie par IA pourrait aider la santé mentale, mais l'innovation ne doit jamais surpasser l'éthique La demande croissante de services de santé mentale à l'échelle mondiale, associée aux délais d'attente prolongés et aux difficultés d'accès aux soins, ainsi qu'à une augmentation des taux de dépression et d'anxiété, met une pression sans précédent sur les systèmes de santé. Face à ce défi, les gouvernements et les prestataires de soins de santé cherchent de nouvelles solutions. Une des innovations les plus prometteuses est l'utilisation de chatbots alimentés par l'intelligence artificielle (IA) pour le traitement des maladies mentales. Le Cas de Therabot Une étude récente a exploré l'efficacité d'un nouveau type de chatbot IA nommé Therabot. Les résultats ont montré que non seulement les participants présentant des symptômes cliniquement significatifs de dépression et d'anxiété ont bénéficié de cette technologie, mais également ceux à haut risque de troubles alimentaires. Bien que préliminaires, ces découvertes pourraient marquer un tournant important dans l'intégration de l'IA dans les soins de santé mentale. Therabot se distingue des chatbots traditionnels comme Woebot et Wysa, qui reposent sur des réponses prédéfinies basées sur l'entrée de l'utilisateur. En revanche, Therabot utilise des techniques de génération de contenu par IA, permettant à la plateforme de produire des réponses novatrices et personnalisées en fonction des interactions avec l'utilisateur. Cela offre une expérience plus dynamique et adaptée, similaire à d'autres chatbots populaires tels que ChatGPT. Autres Études sur l'IA en Santé Mentale En 2024, des chercheurs portugais ont mené une étude où ChatGPT était utilisé en complément des traitements traditionnels pour les patients hospitalisés en psychiatrie. Les résultats ont indiqué une amélioration significative de la qualité de vie après seulement trois à six séances avec ChatGPT, surpassant celles obtenues par la thérapie classique, la médication et d'autres soutiens. Ces études montrent que les chatbots d'IA, généralistes ou spécialisés, peuvent véritablement améliorer les soins psychiatriques. Cependant, il est important de prendre en compte plusieurs limitations et préoccupations éthiques. Limitations et Préoccupations Éthiques Premièrement, les méthodes de recherche actuelles soulèvent des questions. Par exemple, l'étude sur ChatGPT a impliqué seulement 12 participants, ce qui n'est pas suffisant pour tirer des conclusions définitives. De même, les participants de l'étude Therabot ont été recrutés via une campagne sur Meta Ads, probablement biaisant l'échantillon vers des personnes adeptes de la technologie et déjà favorables à l'utilisation de l'IA. Ce biais peut avoir exagéré l'efficacité et l'engagement du chatbot. Deuxièmement, il faut examiner la sécurité des utilisateurs, notamment ceux atteints de maladies mentales graves, comme la psychose. Un article publié en 2023 a mis en garde contre le risque que les réponses réalistes de l'IA puissent renforcer les pensées délirantes. Pour cette raison, les études sur Therabot et ChatGPT ont exclu les participants présentant des symptômes psychotiques. Cette exclusion soulève des questions d'équité. Les individus souffrant de maladies mentales sévères confrontent souvent des défis cognitifs, comme une pensée désorganisée ou une mauvaise concentration, qui peuvent rendre l'interaction avec des outils numériques difficile. Ces personnes auraient pourtant potentiellement le plus à gagner d'interventions accessibles et innovantes. Si les outils d'IA ne conviennent que pour les personnes disposant de solides compétences de communication et d'une forte littératie numérique, leur pertinence clinique sera limitée. Un autre risque important est celui des "hallucinations de l'IA", où les chatbots produisent des informations erronées avec confiance. Dans le contexte de la santé mentale, ce phénomène peut être dangereux. Imaginez un chatbot validant un plan de l'utilisateur pour se nuire ou offrant des conseils inadvertently nocifs. Même si les études sur Therabot et ChatGPT comprennent des mesures de sécurité, comme le suivi clinique et l'apport d'experts lors du développement, nombre de chatbots commerciaux n'offrent pas les mêmes garanties. Vers une Utilisation responsible Ces découvertes préliminaires sont à la fois enthousiasmantes et prudentes. L'IA pourrait offrir une solution économique pour soutenir davantage de patients simultanément, mais cela ne serait possible que si nous abordons pleinement ses limites et préoccupations. Pour être efficacement mise en œuvre, l'IA doit subir des recherches plus rigoureuses avec des échantillons plus larges et diversifiés. Il est crucial d'avoir de la transparence quant au processus d'entraînement des modèles et un suivi humain constant pour assurer la sécurité des utilisateurs. Les régulateurs doivent également intervenir pour guider l'utilisation éthique de l'IA dans le contexte clinique. En conclusion, avec une recherche centrée sur le patient et des garde-fous solides, l'IA générative pourrait devenir un allié précieux dans la lutte contre la crise mondiale de santé mentale. Cependant, notre avancée dans ce domaine doit être responsable et équilibrée. Réaction des Professionnels de l'Industrie Les professionnels de la santé mentale et les experts en IA reconnaissent le potentiel de ces technologies mais insistent sur la nécessité de cadres éthiques robustes. Des entreprises comme Cogni, spécialisée dans la création de chatbots d'IA pour la santé mentale, soulignent l'importance d'une collaboration interdisciplinaire pour developper des outils sûrs et effectifs. Ils mettent l'accent sur l’intégration continue des retours d'experts et sur une évaluation clinique rigoureuse des impacts positifs et négatifs des chatbots d'IA.