Google a retiré certaines synthèses de santé générées par l’intelligence artificielle après une enquête a révélé des erreurs graves, qualifiées par des experts de « préoccupantes » et même « dangereuses ». Ces résumés, intégrés dans les résultats de recherche sous la forme d’« Aperçus IA », présentaient des informations erronées sur des tests hépatiques, pouvant induire en erreur des utilisateurs cherchant des conseils médicaux. L’analyse menée par des spécialistes a mis en évidence que les réponses générées par l’IA affirmaient à tort que certains patients avaient des anomalies au niveau du foie, alors que leurs résultats de laboratoire étaient normaux. Dans certains cas, les synthèses suggéraient des maladies graves comme la cirrhose ou une insuffisance hépatique, sans fondement clinique. Ces erreurs, bien que non intentionnelles, pourraient entraîner une anxiété injustifiée, des consultations médicales inutiles ou, dans le pire des cas, des retards dans le traitement réel d’un problème de santé. Les experts ont qualifié ces failles de « préoccupantes » car elles mettent en lumière les risques associés à l’utilisation de l’IA dans des domaines sensibles comme la santé. Même si les systèmes d’IA sont conçus pour s’appuyer sur des données médicales fiables, leur capacité à interpréter et synthétiser l’information peut parfois produire des conclusions erronées, surtout lorsqu’ils sont confrontés à des cas complexes ou mal formulés. Face à ces constats, Google a décidé de retirer temporairement certaines fonctionnalités d’Aperçus IA dans les résultats de recherche liés à la santé. L’entreprise a également annoncé qu’elle renforcerait ses contrôles de qualité et collaborerait plus étroitement avec des professionnels de santé pour valider les informations fournies. Une mise à jour des algorithmes est en cours pour réduire les risques d’erreurs factuelles, notamment en intégrant des mécanismes d’alerte lorsque l’IA détecte une incertitude ou une absence de données fiables. Cette situation soulève des questions fondamentales sur la fiabilité de l’IA dans les services publics, notamment dans un domaine où la précision peut avoir des conséquences directes sur la vie des individus. Elle rappelle que, malgré les progrès technologiques, l’humain reste indispensable pour vérifier, interpréter et guider les décisions prises à partir des données générées par l’intelligence artificielle.