智能体循环设计:确定性源锚定验证有效降低幻觉率
2026年6月,Anthropic提出不再编写提示词而是设计循环的理念,标志着人工智能智能体架构从单次提示转向多步迭代。然而,循环机制的可靠性高度依赖验证环节,而当前最普遍的模型自评方案已被证明存在显著缺陷。近期一项针对事实性问答生成实验证实,依赖大语言模型自我审查的迭代循环不仅未能降低幻觉率,反而因缺乏外部事实锚点,导致错误输出在反复修饰中更加隐蔽。实验数据显示,自评机制下的幻觉率达43.3%,与无循环基准的40.0%无显著差异,额外计算消耗未带来精度提升。为突破验证瓶颈,研究团队引入基于几何向量的确定性源锚定验证器。该方法通过计算问题、答案与参考源在向量空间中的角度关系,输出语义接地指数与分布接地指标,实现了对幻觉的客观量化。在相同实验条件下,该机制将幻觉率大幅降至19.2%,相对削减逾五成,且收敛步数与自评方案持平。实验表明,循环系统的优化方向已从内容生成转向确定性验证。智能体设计必须摒弃依赖模型主观判断的自反馈机制,转而对接外部可溯源、可复现的确定性子系统。这一验证范式的转变,为构建高可靠性、低幻觉率的下一代人工智能智能体提供了可验证的工程路径。相关工具已开源,供业界复现与探讨。
