Une récente étude publiée dans BMC Medicine alerte sur les risques liés à l'utilisation de modèles d'intelligence artificielle pour prédire des risques médicaux, comme les AVC ou le diabète, lorsqu'ils sont entraînés sur des données non vérifiables. Dirigée par des chercheurs de l'Université du Queensland du Sud et du Centre australien d'innovation en services de santé, l'analyse a ciblé deux ensembles de données largement téléchargés sur la plateforme Kaggle. Ces ressources, promues comme terrain d'expérimentation pour l'IA, ont été utilisées dans 125 études évaluées par des pairs, 86 articles de synthèse, et ont servi à développer trois modèles intégrés à la pratique clinique, dont un cité dans un brevet d'appareil médical. Pourtant, ces jeux de données fournissent quasi aucune information sur leur origine, leur méthode de collecte ou leur lien avec de véritables patients. En les évaluant selon le cadre international TRIPOD+AI dédié à la reproductibilité des modèles d'IA, les chercheurs ont obtenu une note de zéro sur neuf pour les critères essentiels de traçabilité des données. Cette absence criante de transparence a déjà conduit au retrait de sept publications scientifiques jugées non fiables. Le chercheur principal, Alexander Gibson, souligne un signal d'alarme majeur pour les éditeurs, les développeurs et les praticiens. Il insiste sur le fait que les modèles cliniques bâtis sur des données de provenance incertaine n'ont aucune place dans la prise de décision médicale. Sans fiabilité des données, les prédictions deviennent peu fiables et risquent de tromper les médecins, mettant directement en danger les patients. L'équipe recommande donc le retrait immédiat de ces jeux de données et exige un renforcement des obligations de divulgation de la part des revues scientifiques, des organismes financeurs et des dépôts de données. Ce cas illustre un défi plus large dans le secteur de la santé numérique. Face à l'explosion rapide des outils d'IA, la recherche évolue à un rythme soutenu au détriment des standards de rigueur. Sans garde-fous stricts pour vérifier l'authenticité et la traçabilité des ensembles de données utilisés, des modèles non validés continueront de s'infiltrer dans la littérature scientifique et, potentiellement, dans les protocoles de soins. La communauté scientifique appelle ainsi à une plus grande vigilance pour garantir que l'innovation technologique ne se fasse pas au prix de la sécurité des patients ni de l'intégrité de la recherche médicale.