2026年1月にリリースされたAI健康アドバイザー「ChatGPT Health」について、マウント・サイナイ医学研究所の研究チームが初めての独立した安全性評価を実施。その結果、重大な医療緊急事態においても適切な救急受診の指示を出さないケースが多数存在し、安全性に深刻な懸念が示された。この研究は2026年2月23日に『Nature Medicine』オンライン版に掲載され、AIが医療判断の最初の一手となる中でのリスクを浮き彫りにした。 研究チームは、21の医学専門分野にわたる60の臨床シナリオを構築。それぞれのケースについて、3人の医師が56の医学団体のガイドラインに基づき「緊急度」を判断し、その合意を基準とした。これらのシナリオを、人種、性別、社会的背景、医療アクセスの障壁など16の状況変数で変化させ、合計960回の対話テストを実施。結果、医師が緊急治療を要すると判断したケースの半数以上で、ChatGPT Healthは「救急受診を勧める」べきだったにもかかわらず、誤って「様子を見る」など軽視する回答を示した。 特に懸念されたのは、自殺危機対応機能の不備。988自殺・危機リーフラインへの連絡は、自殺の具体的な計画を語った場合にこそ必要だが、システムはそのような高リスクシナリオで警告を出さず、むしろ低リスクのケースで誤って発動していた。これは「危険度と警告の発動が逆転している」と研究者らが指摘するほど深刻な問題だった。 一方で、脳卒中や重篤なアレルギー反応といった明確な緊急事態では適切な判断を示した。しかし、喘息による呼吸不全の初期兆候を認識しながらも「待つよう勧める」など、診断のニュアンスを誤るケースが目立った。 研究チームは、AIツールの利用を完全に否定するのではなく、症状が悪化した場合や自殺の思いがある場合は、必ず医療機関に直接相談するよう呼びかけている。また、医学生の一人である共同著者アルヴィラ・タイギ氏は、「AIは医療の補完ツールとして学ぶべき。臨床判断の代替ではなく、その限界を理解し、批判的に使うことが重要だ」と強調。AIモデルは頻繁に更新されるため、継続的な独立評価が不可欠とし、今後は小児医療、薬剤安全、多言語対応などへの拡大も計画している。