中国を拠点とするAI医療技術企業「Future Doctor」は、32名の臨床専門家と共同して、Nature Portfolioの学術誌『npj Digital Medicine』に論文を発表した。同論文では、「臨床的安全性・有効性二重評価基準（Clinical Safety-Effectiveness Dual-Track Benchmark, CSEDB）」と呼ばれる新しい評価フレームワークが提案された。この基準は、医療分野におけるAIシステムが実際の診療現場で安全かつ効果的に機能しているかどうかを客観的に測定するためのもので、これまでのAI評価が実践的な臨床現場の複雑さを十分に反映できていない点を是正することを目的としている。 CSEDBは、AIが医療判断を行う際に「安全性」と「有効性」の両面を同時に評価する仕組みを採用している。安全性とは、AIが誤った診断や治療提案をしないか、患者に危険を及ぼすような出力を生成しないかを評価する基準であり、有効性はAIが臨床的に有益な判断を示すかどうか、つまり医師の診断を補完または改善する能力を測定する。この二重軌道評価は、従来のAI評価が精度やスコアに偏りがちだった点を補完し、実際の医療現場での信頼性を高めることが期待されている。 本研究では、OpenAIのo3、GoogleのGemini 2.5 Proなど、世界的に注目される大規模言語モデル（LLM）がCSEDB基準で比較評価された。その結果、各モデルは特定の診断タスクでは高い有効性を示したものの、安全性の観点から見ると、誤った情報の生成や不適切な治療提案が頻発するケースが確認された。特に、稀な疾患や複雑な症例における判断では、モデルの信頼性が著しく低下することが明らかになった。これは、AIが「確信を持って誤りを言う」リスクが実際の医療現場で深刻な問題を引き起こす可能性を示唆している。 CSEDBの導入は、医療AIの開発・導入プロセスに新たな基準を設ける可能性がある。今後、医療機関や規制当局がAIツールの採用を判断する際、CSEDBを基準に安全性と実効性を検証することが求められる。また、AI開発企業にとっても、単なる精度向上だけでなく、臨床現場でのリスク管理を意識した設計が不可欠となる。 背景として、医療AIの国際的導入は急速に進んでおり、米国や欧州ではすでに一部のAI診断ツールが臨床現場に導入されている。しかし、安全性の不透明さや倫理的懸念が指摘されており、各国の規制機関（例：FDA、CE）も評価基準の整備を進めている。専門家からは、「CSEDBは、AIが医療現場で真に役立つための必須基準となる可能性がある」との評価が寄せられている。Future Doctorは、この基準を国際的な共通基準として普及させるため、学術界や規制機関との連携を強化していく方針だ。 この取り組みは、AIが「補助ツール」として医療現場に根付くための重要な一歩であり、今後の医療のデジタル化とAI活用の方向性を大きく左右する可能性を秘めている。