長時間AI対話、7大チャットボットの誤情報脆弱性解明

アリゾナ大学研究チームは、主要な7つの大規模言語モデルを対象としたマルチターン会話における誤情報耐性の評価結果を、科学誌Scientific Reportsに発表した。対象はChatGPT（GPT-3.5、GPT-4o、GPT-4o-mini）、Claude 3.5 Sonnet、Gemini 1.5 Pro、Llama-3-70B、DeepSeek-R1である。一問一答とは異なり、文脈を維持した長時間の対話において、各モデルが示す説得可能性、修正可能性、誤情報への陥りやすさが定量的に分析された。 研究を主導したマービン・スレピアン教授（心臓病専門医・法学部教員）は、生成AI普及以降の規制議論の停滞を受け、利用者側による監視責任の重要性を強調する。特に医療や法務といった高リスク分野での導入が進む中、単発のやり取りでは見逃されがちな課題が浮上した。モデルはユーザーの意見に同調する迎合性や自信満々な誤回答のハルシネーションに加え、会話が進むにつれて同一の誤った主張の真偽を頻繁に往復するリバーテーション（反響）現象を示すことが確認された。同教授は、この不安定な状態が重要な判断を偶発的な結果に委ねる危険性があると警鐘を鳴らす。 現在主流のクローズド型AIは内部構造が非公開であり、これらの欠陥の根本原因を特定する妨げとなっている。同研究チームはオープン型モデルを対象とした診断ツールの開発を加速中で、アリゾナ先端医学イノベーションセンターACABI内に設けたAI病理研究所がその中心となっている。スレピアン教授は、AIの利用にはその動作メカニズムと限界を科学的に検証する姿勢が不可欠であるとし、開発側における再発明の必要性と、ユーザーによる慎重な検証体制の構築が引き続き課題となっている。本研究は3年にわたる調査の成果であり、生成AIの安全性基準の再定義が強く求められている。