RAG幻觉多源于检索失败:检索内容决定模型生成
最新研究指出,检索增强生成系统中的多数幻觉并非模型生成缺陷,而是上游检索失败所致。以NIST网络安全框架为测试对象,研究人员发现,在查询勒索软件防护备份策略时,基于余弦相似度的传统向量检索竟将唯一正确的文档页排在所有55页的末尾,而纯关键词匹配则精准定位该页。该研究归纳了导致幻觉的三种检索故障模式:目标答案未被召回、主题相近但内容错误的段落被优先检索,以及正确答案淹没在冗余干扰信息中。研究强调,余弦相似度算法过度依赖表层语义关联,极易稀释关键专有词汇,导致模型被迫在错误上下文中进行合理编造。 针对此问题,专家建议摒弃单纯调优提示词或更换大模型的思路,转而重构检索链路。核心方案在于采用多维度锚定信号,结合专家词汇词典与文档层级结构精准定位上下文,并严格限制检索范围以剔除噪声。此外,应引入二级防御机制强制模型输出带证据溯源的确定性回复。该研究阐明,检索质量直接决定了模型可获取的信息边界,优化上游检索链路才是根治检索增强幻觉、提升企业级文档智能系统可靠性的关键路径。
