纽约西奈山伊坎医学院的研究团队开发出一款名为AEquity的新人工智能工具，旨在识别并减轻医疗数据集中的偏见，从而提升医疗AI算法的准确性与公平性。相关成果发表于《医学互联网研究杂志》。 该研究指出，当前广泛应用于诊断、治疗建议和成本预测的AI系统，其性能高度依赖于训练数据的质量。然而，许多医疗数据集存在代表性不足的问题：某些种族、性别或社会经济群体的数据比例偏低，或因临床表现差异导致误诊或过度诊断。若AI模型基于此类数据训练，将可能放大并延续这些偏差，造成诊断遗漏、治疗不当等严重后果。 为应对这一挑战，研究团队开发了AEquity工具，能够检测数据中隐含和显性的种族偏见。该工具在多种医疗数据上进行了验证，包括胸部X光片、电子病历以及美国国家健康与营养调查（NHANES）等大规模公共健康数据，并适用于从简单模型到大型语言模型等多种AI架构。 AEquity不仅能分析输入数据（如影像、实验室结果），还能评估模型输出（如诊断预测、风险评分），识别出以往未被察觉的系统性偏差。研究团队表示，该工具具有高度可扩展性，可用于算法开发、部署前审计及监管审查，助力构建更公平的AI医疗系统。 第一作者法里斯·古拉马利博士指出：“我们的目标是提供一个实用工具，帮助开发者和医疗机构发现并纠正数据偏见，确保AI真正服务于所有人，而非仅服务于数据中最常出现的群体。” 项目负责人吉里什·纳德卡尼教授强调，技术手段只是第一步，真正实现公平AI还需从数据采集、解读与应用等环节进行系统性改革。数据质量是基础，必须从源头保障多样性与代表性。 西奈山医疗系统首席临床官大卫·赖希博士表示，AEquity代表了医疗AI理念的深刻转变——AI不应仅作为辅助决策工具，更应成为推动全民健康公平的引擎。通过在数据层面根除偏见，才能赢得公众信任，推动医疗系统持续改进，最终惠及所有患者。