HyperAIHyperAI

Command Palette

Search for a command to run...

Agent
LLM

不要只相信你的记忆:证据关联记忆可减少 LLM 智能体中的记忆诱发退化

Yukyeong Lee Yumin Choi Jinheon Baek Sung Ju Hwang

摘要

外部记忆使 LLM 智能体能够从经验中改进,通过将过去任务的轨迹蒸馏为适用于新任务的简洁经验教训。然而,记忆也可能导致记忆诱发的退化,即智能体在那些没有记忆时本可以解决的任务上失败,原因往往是它遵循了一条错误的经验教训,或者错误地应用或误读了一条有效的经验教训。这是因为经验教训是从仅标注了任务成功或失败的轨迹中推断出来的,但通常提供给智能体时并不带有其来源轨迹,使智能体无法对其加以核验。为解决这一问题,我们提出了 WikiTrace,一个证据关联记忆系统,旨在让智能体能够依据每条经验教训的原始轨迹对其进行核验。具体而言,受如下发现的启发——轨迹通常仍保留着发现错误经验教训所需的证据——WikiTrace 将每条经验教训存储为一条简洁见解,并将其链接到其轨迹成功或失败的原因摘要以及原始轨迹本身。然后,在新任务上,智能体从所有见解出发;当某条见解缺少行动所需细节、与其他见解冲突或来自失败任务时,智能体借助终端工具沿其链接向下追溯,在行动前补全缺失细节或修正该见解。我们在五个智能体基准上验证了 WikiTrace,结果表明它持续优于现有记忆方法和仅获得相同见解的基线,同时减少了记忆诱发的退化。我们的代码可在 https://github.com/yukyeongleee/wikitrace 获取。

一句话总结

KAIST 和 DeepAuto.ai 的研究者提出 WikiTrace,一种证据链接记忆系统,将每条经验存储为一条简明洞察,并链接到成功/失败摘要和原始轨迹;它使 LLM agents 在行动前能够检查、补充或修正经验,并在五个 agentic benchmarks 上持续优于现有记忆方法,同时减少记忆引起的退化。

核心贡献

  • WikiTrace 是一种证据链接记忆系统,将每条经验存储为一条洞察,并链接到其轨迹结果的摘要和原始轨迹,使 agents 能够对照原始执行核查这些经验。
  • 它贡献了一种程序性记忆的重新评估机制:在新任务中,agent 从所有洞察出发,当某条洞察缺少所需细节、与另一条冲突或来自失败轨迹时,会借助终端工具沿链接向下回溯,在行动前恢复缺失细节或修订该洞察。
  • 在横跨八个套件的五个 agentic benchmarks 上的评估显示,WikiTrace 在每个套件上都取得最佳性能,平均比无记忆 agent 提高 10.7 个百分点,比相同洞察基线提高 3.2 个百分点,并将记忆引起的退化从 6.5% 降低到 4.5%;在更难任务上,由于链接证据被更频繁地查阅并改变计划,收益更大。

引言

大型语言模型 agents 越来越多地使用外部记忆,将过去的任务轨迹转化为可复用的经验,从而在不更新模型参数的情况下提升多步工具使用和文本世界表现。然而,记忆并不总是有帮助:由于一条轨迹只有一个成功或失败标签,系统必须猜测哪些动作是关键,而现有方法通常只提供经验,却不提供验证这些经验所需的源轨迹。这可能导致记忆引起的退化,即 agent 会失败那些在没有记忆时本可解决的任务。作者提出 WikiTrace,它使每条经验链接到一份汇编和原始轨迹,从而让 agent 在行动前能够恢复缺失细节或修正误导性指导。在五个 benchmarks 和八个套件上,WikiTrace 优于无记忆基线和仅洞察基线,同时将退化从 6.5% 降低到 4.5%。

数据集

作者将 WikiTrace 构建为一个源链接记忆数据集,包含四个组成部分:

  • 原始轨迹:每次运行的记录保持原样,包括任务元数据、每轮的推理、动作和观察,以及该次运行是否成功。
  • 汇编:编译器处理每个任务、agent 的轨迹和成功/失败信号。它对成功和失败的运行使用不同模板。成功的运行总结与成功相关的决策;失败的运行记录对失败的合理解释。这些被视为对运行的解读,而不是经过验证的解释。
  • 洞察:每次运行最多提取三条洞察。每条洞察是一个独立文档,说明应该做什么、何时适用、来自哪次运行,以及该次运行是否成功。洞察按运行独立生成,从不更新或删除,因此洞察池可能包含冗余或冲突的洞察。
  • 源链接和索引:每条洞察链接到其源汇编和原始轨迹。这使测试时 agent 能够追溯某条洞察的来源,以及源运行如何被解读。每一层还带有一个用于导航的索引。

处理细节:

  • 每次运行都被独立处理,因此每条提取出的经验都保持与其来源经历相连。
  • 原始轨迹保持原样。
  • 编译器为每次运行生成一份汇编和最多三条洞察。
  • 摘录未说明语料规模、任务来源、训练划分或混合比例。

方法

作者提出 WikiTrace,一个旨在通过保留从每条提取出的洞察回到其源轨迹的可验证路径,来缓解 LLM agents 中记忆引起的退化的框架。该系统分为两个主要阶段:记忆构建和测试时证据访问。

在记忆构建阶段,作者处理固定的历史运行语料 Dtrain={(xi,ri,si)}i=1N\mathcal{D}_{\mathrm{train}} = \{(x_i, r_i, s_i)\}_{i=1}^NDtrain​={(xi​,ri​,si​)}i=1N​,其中每次运行包含任务 xix_ixi​、轨迹 rir_iri​ 和二值成功结果 sis_isi​。编译器独立处理每次运行,生成一份汇编 cic_ici​ 和一组洞察 IiI_iIi​,形式化为 (ci,Ii)=Compiler(xi,ri,si)(c_i, I_i) = \mathrm{Compiler}(x_i, r_i, s_i)(ci​,Ii​)=Compiler(xi​,ri​,si​)。汇编总结关键决策和支持性观察,并对成功和失败的运行使用不同模板。编译器还会从每次运行中提取最多三条洞察,每条洞察详细说明建议动作、其适用条件和其源运行。为了确保可追溯性,原始轨迹保持原样,每条洞察都显式链接到其源汇编和原始轨迹。这样就构建了一个多层次、源链接的记忆结构 M=(R,C,I,E)\mathcal{M} = (R, C, I, E)M=(R,C,I,E)。

在测试时阶段,agent 利用这一结构化记忆来解决新任务。最初,agent 会收到所有提取出的洞察,以及三个与当前任务最相似的历史运行。与盲目遵循洞察不同,当某条洞察缺少足够细节、来自失败运行、与另一条洞察冲突,或后续动作失败时,agent 会被提示向下追溯到源运行。源链接记忆以只读文件形式挂载,使 agent 能够在执行动作前使用工具搜索具体证据,例如命令格式或上下文观察。这种向下追溯机制使 agent 能够实时验证某条洞察的有效性和适用性,有效恢复被省略的观察,并防止执行错误或超出范围的教训。

实验

WikiTrace 在八个套件上接受了评估,这些套件涵盖模拟文本世界和工具使用环境,并与 No Memory 以及 AWM、ExpeL、ReasoningBank 等现有记忆方法、外加一个 Insights Only 变体进行比较。它持续取得最佳性能,增益和退化分析显示,它在改善此前失败任务的同时,减少了在先前可解决任务上的失败,这一优势被归因于对源运行的访问。进一步实验表明,向下追溯到源证据在更难任务中和在被阻塞的尝试后帮助最大,使 agent 能够修订或补充洞察;失败轨迹虽然有用,但与源证据一起保留时更安全。该方法在更大的基线预算和不同模型下仍然有效,并且可以通过重新查看原始轨迹来解决冲突的洞察。

WikiTrace 在全部八个套件上都取得了最高性能,平均为 90.2,而无记忆基线为 79.5。它平均比仅洞察条件高出 3.2 个百分点,表明链接源证据在仅使用洞察之外带来了额外收益。WikiTrace 也是唯一在每个套件上都达到或超过无记忆基线的记忆方法。WikiTrace 在所有被评估的方法中,在每个套件以及总体平均分上都处于领先。现有记忆方法并非在所有套件上都持续达到无记忆基线,而 WikiTrace 在所有套件上都达到或超过该基线。将洞察链接到源证据相较仅使用洞察平均带来 3.2 个百分点的提升,并有助于减少记忆引起的退化。

当 WikiTrace 的证据改变 agent 的计划,而不是让计划保持不变时,它相较 Insights Only 的得分提升更大。最大的相对收益来自引入新事实或修订洞察,而确认计划或不使用证据带来的收益最小。这表明 WikiTrace 的价值与能够积极重塑 agent 决策的证据相关。与 Insights Only 相比,改变计划的证据带来的得分提升大于未改变计划的证据。在证据效果中,引入新事实带来的提升最大,其次是修订和细化洞察。确认现有计划或不使用证据产生的相对收益最小。

在使用 GLM-5.3-flash 时,WikiTrace 在所有被评估套件上都取得最高性能,平均为 92.7,超过仅洞察记忆 1.8 个百分点,超过无记忆 21.5 个百分点。AWM、ReasoningBank 和 ExpeL 各自在至少一个套件上低于无记忆。这一模式与 DeepSeek 结果一致,支持源链接记忆跨模型的好处。WikiTrace 在 PlanCraft、ScienceWorld、已见任务和未见任务上均领先所有方法。AWM、ReasoningBank 和 ExpeL 各自在至少一个被评估套件上表现不如 No Memory。

实验在八个套件和两种语言模型上,将 WikiTrace 与无记忆基线、仅洞察基线以及现有记忆方法进行了比较。WikiTrace 持续取得最高的总体性能,并且是唯一在每个套件上都达到或超过无记忆基线的记忆方法,同时将洞察链接到源证据带来了持续收益。当证据引入新事实或修订洞察并改变 agent 的计划时,这些收益最大,表明源链接记忆的价值来自积极重塑决策。使用 GLM-5.3-flash 的复现实验显示相同模式,WikiTrace 优于所有方法,而现有记忆方法有时低于无记忆,支持跨模型的好处。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供