AI 의료에서 환자 중심 규제 필요성 강조

AI 건강 관리 분야에서 환자 중심 규제 필요, 전문가들이 주장 새로운 논평이 영국 왕립의학회 저널에 발표되었는데, 이는 현재의 인공지능(AI) 건강 관리 분야의 위험 기반 규제 접근법이 환자를 충분히 보호하지 못하고, 과잉 치료나 부족한 치료, 그리고 환자 집단 간 차별을 초래할 가능성이 있다는 경고를 담고 있다. 논문의 저자들은 AI와 머신러닝 시스템이 임상 정확도를 향상시키는 데 도움이 될 수 있지만, 이러한 시스템의 본질적인 부정확성, 투명성 부족, 그리고 편향성에 대한 우려가 현재 유럽 연합의 AI 법안으로는 충분히 해결되지 않고 있다고 지적한다. 2025년에 제정된 AI 법안은 의료 AI를 "고위험"으로 분류하고 제공자와 사용자에게 엄격한 통제를 부과하지만, 이 위험 기반 프레임워크는 세 가지 중요한 문제를 간과하고 있다: 개인 환자의 선호도, AI 도입의 체계적이고 장기적인 효과, 그리고 규제 과정에서 환자의 권력 상실. “환자들은 자신들의 치료에 AI가 어떤 역할을 하는지, 정확도, 편향성 등에 대한 가치가 다릅니다,” 덴마크 알보르대학교 데이터와 AI 윤리학 교수인 토마스 플루그(Tomas Ploug)가 말했다. “규제는 시스템 단위의 안전성을 넘어서 개개인의 권리와 참여를 고려해야 합니다.” 저자들은 환자에게 AI가 생성한 진단이나 치료 계획에 관한 권리가 부여되어야 한다고 주장하며, 그 권리는 다음과 같아야 한다: - AI에 의존하지 않고도 진단이나 치료 계획을 요청할 수 있는 권리 - AI 기반 의사결정에 대한 자세한 설명을 요구할 수 있는 권리 - AI가 생성한 정보를 검토하거나 수정할 수 있는 권리 - AI 사용에 동의하거나 거부할 수 있는 권리 저자들은 의료 종사자, 규제 기관, 환자 단체 등의 건강 관리 이해관계자들이 긴급하게 참여하지 않으면 이러한 권리가 AI 기술의 빠른 발전 속에서 소홀해질 위험이 있다고 경고한다. “AI는 건강 관리를 변화시킬 것이지만, 환자의 자율성과 신뢰성을 희생해서는 안 됩니다,” 플루그 교수가 말했다. “AI 기반 건강 시스템에서 환자를 보호하고 권력을 부여하는 권리들을 정의할 때가 되었습니다.” 산업 전문가들은 이번 논평이 AI 건강 관리 분야의 미래 방향성을 제시하는 중요한 역할을 하고 있다고 평가한다. AI 기술의 발전이 빠르게 이루어지고 있지만, 환자의 권익을 보호하는 데 있어서는 아직 미흡하다는 점을 지적하며, 더 많은 이해관계자들의 참여와 협력을 통해 개선될 필요가 있다고 강조한다. 유럽 연합의 AI 법안은 고위험 의료 AI에 대해 엄격한 규제를 도입했지만, 환자 중심의 접근을 채택하지 않는 한 그 효과는 제한적일 수밖에 없다. 알보르대학교는 덴마크의 주요 연구 대학 중 하나로, 데이터와 AI 윤리 분야에서 다양한 연구를 수행하고 있으며, 플루그 교수는 이 분야의 선도적인 학자 중 한 사람이다. 그의 연구는 AI 기술의 사회적 영향과 윤리적 문제에 중점을 두고 있다.