L'intégration de l'intelligence artificielle dans la documentation médicale, notamment via des systèmes de reconnaissance vocale, suscite des interrogations croissantes sur leur fiabilité et leur sécurité. Une étude menée par Nelly Elsayed, professeure adjointe à l'Université de Cincinnati et fondatrice du laboratoire Applied Machine Learning and Intelligence, examine ces défis. Ses travaux, publiés dans l'International Journal of Medical Informatics, identifient les principaux risques socio-techniques de ces outils et proposent des mesures concrètes pour garantir leur déploiement sécurisé. Bien que les systèmes de transcription vocale promettent de réduire considérablement le temps consacré aux dossiers patients, des erreurs de reconnaissance peuvent survenir, notamment dans des environnements cliniques bruyants ou lors de la prise en compte d'accents variés. Le manque de formations spécifiques des modèles linguistiques et l'absence de vérification humaine augmentent les risques d'inexactitude, de violations de la confidentialité et de manque de transparence sur l'utilisation des données sensibles. Pour pallier ces limites, Nelly Elsayed insiste sur la nécessité d'un contrôle humain systématique. La vérification manuelle de l'intégralité du transcript, et non seulement des premières lignes, reste indispensable pour garantir la conformité aux standards médicaux. Par ailleurs, les développeurs de ces solutions doivent fournir des directives claires aux praticiens sur les cas d'usage autorisés et les limites à respecter. Un entraînement spécifique du personnel soignant et un ajustement des algorithmes aux réalités du terrain, incluant les bruits ambiants et les particularités linguistiques, sont également recommandés. Ces conclusions, inspirées d'une expérience personnelle de la chercheuse lors d'une consultation médicale, visent à optimiser l'équilibre entre efficacité technologique et sécurité des patients. Si l'automatisation de la documentation permet aux médecins de limiter l'épuisement professionnel et de consacrer plus de temps aux échanges directs avec leurs patients, elle ne doit en aucun cas se substituer au jugement clinique. Le développement responsable de l'intelligence artificielle en santé exige donc une gouvernance rigoureuse, une transparence accrue sur le traitement des données et une collaboration étroite entre ingénieurs, professionnels de santé et régulateurs. En définitive, ces systèmes offrent un potentiel significatif pour moderniser les pratiques médicales. Leur adoption durable dépendra de la mise en place de garde-fous techniques et humains, garantissant que la technologie reste un outil d'assistance fiable et sécurisé plutôt qu'une source de risques non maitrisés.