フルダーズ大学の研究者らは、医療分野における人工知能（AI）の急速な発展が安全性の確認よりも先に進んでおり、注意が必要であると警告しています。科学誌に掲載された論説で、彼らは AI が医師同様の推論能力を持つようになるなど驚異的な成果を示している一方で、制御された研究環境での高い数値が、病院やクリニックでの日常的な使用に即座に安全であることを意味しないことを強調しています。 論文の共著者である博士課程の学生エリック・コルネリス氏は、AI は単純な質問応答から、テキストベースのタスクにおいて人間の臨床推論に匹敵する能力へと進化していると指摘します。実際に、最新の推論型 AI システムは診断シナリオを段階的に処理し、熟練医師の診断性能に匹敵甚至する結果を出しています。しかし、同チームは現実の医療には物理的検査や患者との対話、医療・社会的文脈の理解、結果に対する責任など、テキストのみの推論やテスト性能では代替できない重要な要素が含まれると指摘しています。 アッシュ・ホプキンズ准教授は、現代の医療は判断と説明責任、倫理的監督に依存しているとし、法的・倫理的責任の枠組みを整備しつつ、臨床現場への導入は慎重かつ統制されたものであるべきだと述べています。評価が不十分なシステムを無計画に導入することは、バイアスの助長や不平等な治療、患者への意図せぬ危害といったリスクを招く可能性があります。また、学習データに偏りや欠落がある場合、AI は問題を解決するどころか悪化させる恐れもあります。 研究者たちは、AI が医師に準じた監督と評価基準を満たすべきだと主張し、成功の基準は試験の得点やデモの性能ではなく、実際の患者アウトカムの改善で測られるべきだと強調しています。患者は研究で素晴らしい結果に見えるのではなく、現実の医療現場でケアを向上させる技術を享受する権利があると述べられています。慎重な設計、強力な監督、厳格な評価を通じて、AI は世界中の医療システムにおいてより安全で公平、かつ効果的なケアを提供する強力なツールとなり得ると結論付けています。