专家警告：医疗AI监管需重视患者权利以防止歧视和不公

一项发表在《皇家医学会杂志》上的新评论警告称，当前针对医疗健康领域人工智能（AI）的风险监管框架存在不足，可能导致过度治疗、治疗不足以及患者群体受到歧视的问题。作者指出，尽管AI和机器学习系统能够提高临床诊断的准确性，但这些系统内在的不准确性、不透明性和潜在偏见并未得到足够的关注和解决。 这篇评论的主要作者托马斯·普洛格（Thomas Ploug）教授来自丹麦奥尔堡大学，专门研究数据和AI伦理。他认为，不同患者对于准确性、偏见或AI在其治疗中所扮演的角色有着不同的价值观。因此，仅依赖系统层面的安全性评估远不足以保护患者的权益。普洛格教授强调，监管应当超越风险评估框架，更多地考虑个体权利和参与度。 作者们呼吁建立与AI生成诊断或治疗方案相关的患者权益，包括以下几项权利： - 知情权：患者有权了解AI系统如何影响他们的治疗决策。 - 参与权：患者应能参与AI系统在他们治疗中的应用决策。 - 异议权：患者有权拒绝AI系统的建议，并选择其他治疗方案。 - 纠正权：患者应能要求纠正AI系统提供的不准确信息或错误建议。 - 解释权：AI系统应能够向患者解释其决策过程和理由。 评论中提到，欧盟的《AI法案》于2025年通过，将医疗AI认定为“高风险”，并引入了严格的控制措施。然而，该法案的风险评估框架忽略了三个重要问题：个别患者的偏好、AI应用的系统性和长期影响、以及患者在监管过程中被边缘化的现象。普洛格教授和同事们认为，这些忽视将阻碍医疗AI的健康发展，并可能损害患者的利益。 为了确保AI在医疗领域的应用既安全又公正，作者们建议应加强医疗利益相关方的参与，包括临床医生、监管机构和患者团体。他们强调，必须定义明确的患者权利，以保护和增强患者在一个由AI驱动的医疗体系中的自主性和信任感。这项建议被视为推动医疗AI伦理发展的重要一步。 业内人士普遍认为，这一评论揭示了当前AI医疗监管的盲点，突显了患者参与的重要性。这不仅有助于提高AI系统的透明度和公平性，还将促进医疗技术的发展，使其更好地服务于广大患者。作为全球领先的医疗技术公司之一，荷兰飞利浦表示支持将患者权益纳入AI医疗监管框架，认为这是实现可持续发展和增强公众信心的关键。