エンタープライズ文書知能シリーズ最新報：RAGの幻覚実態は検索失敗にあり 大規模言語モデルを用いた文書検索拡張システムにおいて報告される生成誤答の大半は、モデル側の故障ではなく前段の検索段階での失敗に起因するという分析結果が公開された。エンタープライズ文書知能研究シリーズの一環として提示された知見は、検索インフラの設計見直しが高精度なドキュメント応答の鍵になると指摘している。 検証では米国NISTの公開サイバーセキュリティフレームワークを用い、標準的なコサイン類似度による検索を評価した。ランサムウェア対応のバックアップ施策を問うクエリに対し、正解が記載されたページは類似度ランキング最下位に位置し、上位には関連性の薄いカテゴリが選定されていた。この結果、モデルは誤った文脈を前提に回答を生成せざるを得ず、結果として自信に満ちた誤回答という幻覚が観測された。 分析は誤答を招く検索失敗を三つのパターンに分類する。正解文書が検索窓から漏れる再現率不足、意味が似通った誤った文書が上位に表示される順位付け誤り、正解が含まれているが大量の類似用語に埋もれてモデルが文脈を混乱させるノイズ混入である。いずれもモデルが文脈から逸脱して情報を捏造したのではなく、検索システムが不適切なコンテキストを供給した結果であることを強調する。 この課題を解決するには、プロンプトの厳格化やモデルのスケールアップよりも検索アルゴリズムの設計転換が不可欠だと結論づけられている。具体的には埋め込みベクトル依存を改め、ドキュメント構造や専門用語ベースのキーワードマッチングを併用して検索対象を正確に特定する手法が有効である。同フレームワークでは単一キーワードでの検索再実行により正解ページが即座に1位へ上昇した実績がある。さらに検索範囲を過剰に広くせず特定カテゴリに限定するコンテキストスコーピングも併せて実施する必要がある。 加えて、生成モデル側には証拠となる引用スパンと信頼度を必須出力とする回答契約を設け、二段構えの防御策を提案する。本分析はRAG開発において幻覚発生時のトラブルシューティングを生成パラメータ調整から検索インフラ見直しへ転換させる必要性を示しており、エンタープライズ環境におけるシステム安定化の指針となる。関連検証コードは公開リポジトリで提供中である。