최신 AI 모델, 의학 분야에서 인종·성별 고정관념 재생산

플린더스대 연구진, 최신 추론형 AI 모델의 의료 분야 인종 및 성별 편향성 확인 플린더스대학교 메디컬 앤 퍼블릭 헬스 칼리지 연구진은 차세대 추론형 대규모 언어모델인 o3-mini와 DeepSeek-R1가 의료 상황에서 인종과 성별 고정관념을 재생산하고 있다는 사실을 확인했다. 해당 연구 결과는 저널 '메디컬 인터네트워크 리서치'에 게재되었으며, AI 추론 능력의 향상만으로 의료 현장의 표현적 공정성이 개선되지 않음을 시사한다. 연구진은 두 모델에 공통 의료 질환이 있는 가상의 환자 프로필 생성을 요청해 총 3만 6천 건의 임상 비니엣을 분석했다. 결과적으로 모델들은 실제 유병률과 크게 어긋난 인구통계학적 분포를 보였다. 기존 GPT-4가 인종 및 성별 관련 질환의 67%에서 유의미한 편향을 보인 것과 달리, o3-mini는 인종 78%, 성별 56%에서 DeepSeek-R1는 인종 89%, 성별 67%에서 편향 기준치를 넘어섰다. 특히 흑인 인종에 대한 특정 질환의 과다 표현이 지속되었으며, 이전 세대 모델보다 평균 편향률이 높게 나타나 성능 발전이 공정성 개선으로 직결되지 않음을 보여줬다. 연구진은 이러한 현상이 모델이 훈련 데이터에서 학습한 원형적 사례를 선호하거나, 추론 과정에서 명시적인 질병 인종 연관성을 참조하되 역학적 정량 데이터는 고려하지 않기 때문에 발생한다고 분석했다. DeepSeek-R1의 추론 과정을 검토한 결과, 모델이 특정 인종을 선택할 때 질병과 인종 간의 고정관념을 직접적으로 인용하는 모습이 확인됐다. 주요 저자인 마이클 소리치 교수는 추론 기능이 강화된 최신 모델이 의료 콘텐츠 생성에서도 편향을 지속적으로 재생산하고 있으며, 이는 AI 성능의 발전이 반드시 공정성 차원의 개선으로 이어지지 않음을 보여준다고 지적했다. 조슈아 도킹 연구원은 의료 AI가 보편화될 경우 기존 편향이 건강 격차로 이어질 수 있다고 경고했다. 연구진은 임상 워크플로우에 AI를 통합할 때는 이러한 인구통계학적 기본값에 대한 인식을 바탕으로 한 투명한 검증이 필수적이며, 지속적 편향 모니터링 시스템이 동반되어야 한다고 강조했다. 질환 유병률의 정확한 인구집단 간 이해는 진단 추론의 핵심 요소이므로, 편향 없는 임상 데이터 생성 기술의 발전과 안전성 검증이 시급하다.