En mai 2026, le gouvernement de Pennsylvanie a intenté un procès contre Character Technologies Inc., l'éditeur de la plateforme de chatbots Character.AI. L'enquête de l'État a révélé que le personnage virtuel Emilie affirmait détenir un diplôme de médecine, sept ans d'expérience et une licence d'exercice en Pennsylvanie, accompagnée d'un numéro de licence falsifié. Au 17 avril 2026, le chatbot avait enregistré environ 45 500 interactions. La plainte a été déposée par le Conseil d'État de la médecine de Pennsylvanie. Cette affaire éclaire les mécanismes psychologiques qui sous-tendent notre confiance dans les outils d'intelligence artificielle appliqués à la santé. Gretchen Chapman, professeure en prise de décision comportementale à l'Université Carnegie Mellon, analyse ces phénomènes. Elle explique que les utilisateurs accordent souvent une crédibilité excessive aux chatbots en raison de signaux superficiels comme le ton assuré, le jargon technique ou, surtout, l'affirmation de titres et de diplômes. Ces indicateurs servent de raccourcis cognitifs pour évaluer l'expertise, rendant les systèmes automatisés vulnérables aux manipulations même lorsqu'ils ne possèdent aucune qualification réelle. La recherche sur la défiance algorithmique montre que les humains pardonnent plus facilement les erreurs commises par des médecins que celles produites par une IA. Une faute considérée comme inacceptable pour un professionnel, comme l'usurpation de licence, devient particulièrement choquante lorsqu'elle émane d'un logiciel. Pourtant, la tentation de faire confiance reste forte car nos cerveaux traitent l'information rapidement en s'appuyant sur des heuristiques simples. Vérifier manuellement la provenance des références scientifiques citées par un chatbot demande trop d'efforts, ce qui facilite la désinformation. La question de la responsabilité en cas de conseil médical erroné demeure complexe. Contrairement aux humains, une IA ne peut être tenue légalement responsable. La charge incombe aux développeurs, qui doivent intégrer des garde-fous appropriés, aux établissements de santé chargés de certifier les outils avant leur déploiement et de souscrire des assurances adéquates, ainsi qu'aux utilisateurs, qui doivent respecter les modalités d'emploi recommandées. La pratique médicale traditionnelle intègre déjà une assurance en responsabilité civile pour gérer ces risques, tandis que le cadre juridique pour l'IA est encore en construction. Pittsburgh sert actuellement de laboratoire à ciel ouvert pour ces technologies. L'Institut de l'IA Carnegie Mellon pour la prise de décision sociétale, soutenu par la Fondation nationale américaine des sciences, développe par exemple un assistant virtuel dédié à la santé maternelle, où la précision et la sécurité sont primordiales. Parallèlement, les grands réseaux hospitaliers locaux intègrent progressivement des outils d'IA pour l'imagerie médicale, le diagnostic, le suivi des patients et la gestion administrative. Alors que les juridictions s'adaptent à cette nouvelle réalité, cette affaire pennsylvanienne rappelle la nécessité urgente d'encadrer strictement l'usage de l'intelligence artificielle dans le secteur de la santé.