グーグルが、AIによる健康情報の要約機能「AI Overviews」から、重大な誤りを含む内容を削除した。同機能は検索結果にAI生成の健康情報の要約を提示するもので、ある調査で肝機能検査に関する誤った情報を提供していたことが判明した。医療専門家らは、その内容を「危険」と評価し、誤った情報が患者の診断や治療判断に悪影響を及ぼす可能性があると警告した。 この問題は、ユーザーが肝臓の健康状態に関する検査結果を確認する際に、AIが実際の医学的根拠に基づかない解釈を提示したことに起因していた。例えば、正常範囲外の検査値を「問題なし」と誤認させるような記述が含まれており、医師による正確な診断を妨げるリスクがあった。 グーグルは調査を実施した上で、問題のある要約の一部を迅速に削除。同時に、AIによる医療情報の提供に関して、より厳格なレビュー体制の強化を進めている。同社は「ユーザーの健康と安全を最優先に考える」と強調し、今後も医療分野におけるAIの信頼性向上に向けた取り組みを強化していく方針を示している。 今回の事例は、AIが医療情報の分野で活用される中で、正確性と安全性の確保がいかに重要かを改めて浮き彫りにした。専門家らは、AIによる健康情報の提示には、医師や臨床専門家の監修が不可欠であると指摘している。