HyperAIHyperAI

Command Palette

Search for a command to run...

MemAdapter:面向记忆诱发型谄媚的反事实自适应方法

Ruqing Ning Haibo Meng Zhishang Xiang Zerui Chen Jinsong Su Xin Wang Qinggang Zhang

摘要

长期记忆使基于 LLM 的智能体能够在任务与会话之间保留并重用信息,从而支持个性化与长时程交互。然而,持久记忆也可能诱发谄媚行为,导致智能体过度迎合用户的历史信念,即使这些信念不准确、过时或与客观证据不一致。现有缓解方法假设记忆诱发型谄媚源于有偏或错误记忆,并尝试在记忆流水线的不同阶段过滤此类记忆以降低风险。然而,在现实世界中,客观且正确的记忆仍可能诱发谄媚,同一条记忆在不同上下文中也可能应当产生不同影响。为此,我们提出 MemAdapter,一个自适应整合检索记忆以支持客观可靠推理的新框架。具体而言,MemAdapter 由三个组件组成:(i)反事实归纳(Counterfactual Induction),利用反事实推理揭示检索记忆的潜在风险;(ii)上下文感知反思(Context-Aware Reflection),通过自我反思根据当前任务校准每条检索记忆的推理性影响;(iii)循证推理(Evidence-Based Reasoning),在保留记忆合理影响的同时,将最终回答建立在适当证据之上。在三个基准上的大量实验表明,MemAdapter 在不同场景下持续提升记忆可靠性。代码见 https://github.com/DEEP-JLU/MemAdapter。

一句话总结

来自吉林大学和厦门大学的研究人员提出 MemAdapter,一个通过反事实归纳、上下文感知反思和基于证据的推理自适应整合检索记忆的框架,以减少基于 LLM 的 agents 中由记忆引发的迎合行为,解决先前过滤方法的局限,并在三个基准上提高记忆可靠性。

核心贡献

  • 指出长期记忆 agents 中存在一种检索后失效模式,即即使准确且相关的记忆也可能被用于当前任务无法证明的程度,并提出 MemAdapter,一个检索后适配框架,在不修改上游记忆系统的前提下动态调整检索记忆参与推理的方式。
  • MemAdapter 使用反事实归纳推断条件使用规则并揭示潜在记忆风险,使用上下文感知反思针对当前任务和证据校准每条记忆的推理影响,并使用基于证据的推理约束最终响应,同时保留合理的记忆影响。
  • 在 MemSyco-Bench、Persist-Bench 和 MemTrapBench 上的实验表明,在不同记忆系统和骨干模型上,记忆使用可靠性持续提升。

引言

长期记忆已成为基于 LLM 的 agents 的核心组成部分,使其能够在任务和会话之间保留并复用用户信息,以支持个性化和长程交互。然而,同样的记忆可能将过去的用户信念、偏好和判断重新引入后续推理,从而产生由记忆引发的迎合行为,使 agents 过度迎合过时或不准确的观点。先前缓解方法大多在推理之前介入,例如在提取、检索或组织阶段,将问题视为有偏或错误的记忆内容。作者认为,即使是准确且与任务相关的记忆,也可能因推理上下文而被误用,因此适当的记忆影响是一种关系属性而非内在属性。为弥补这一不足,他们提出 MemAdapter,一个检索后适配框架,利用反事实归纳、上下文感知反思和基于证据的推理来调节检索记忆对最终答案的影响,同时保留其合理使用。

方法

作者提出 MemAdapter,一个通过在推理过程中仔细校准检索记忆影响来减轻记忆引发迎合行为的框架。如下图所示,该架构包含三个核心模块:反事实归纳、上下文感知反思和基于证据的推理。

第一个模块,反事实归纳,处理记忆引发风险的条件性。作者没有单独评估某条记忆,而是将风险识别形式化为边界发现问题。对每条检索记忆 mim_imi​,模型保持记忆内容不变,并系统变化合理的下游任务条件,以构建反事实任务空间,记为 Hi={(tij,hij)}j=1Ni\mathcal{H}_i = \{(t_{ij}, h_{ij})\}_{j=1}^{N_i}Hi​={(tij​,hij​)}j=1Ni​​,其中 tijt_{ij}tij​ 表示任务类型,hijh_{ij}hij​ 实例化一个具体请求和证据配置。接着,模型评估该记忆在每个设置中的适当贡献 vijv_{ij}vij​,形成集合 Vi={(hij,vij)}j=1Ni\mathcal{V}_i = \{(h_{ij}, v_{ij})\}_{j=1}^{N_i}Vi​={(hij​,vij​)}j=1Ni​​。通过比较这些设置特定贡献并对具有等效影响的设置进行分组,该模块归纳出跨上下文风险表征 Bi={(air,vir)}r=1RiB_i = \{(a_{ir}, v_{ir})\}_{r=1}^{R_i}Bi​={(air​,vir​)}r=1Ri​​,为后续校准提供任务无关的潜在风险边界。

第二个模块,上下文感知反思,弥合跨上下文边界与具体下游任务之间的差距。给定当前请求 qqq、可用证据 ccc、检索记忆 M\mathcal{M}M 和条件边界 B\mathcal{B}B,模型进行自我反思,在上下文中重新评估每条记忆。它结合每条 mim_imi​ 的边界 BiB_iBi​ 来考察检索集合中的更新、限定和冲突。该过程生成任务条件化表示 U={ui}i=1n\mathcal{U} = \{u_i\}_{i=1}^nU={ui​}i=1n​,其中每个 uiu_iui​ 作为自然语言指令,详细说明该记忆可以支持什么、可能影响推理的哪些部分、其影响范围以及它无法证明的结论。

最后一个模块,基于证据的推理,确保校准约束在答案生成期间被严格遵守。它防止有用的个性化信息被隐式提升为事实证据。给定输入 q,c,Mq, c, \mathcal{M}q,c,M 和影响指令 U\mathcal{U}U,系统根据函数 (y,L)=REBR(q,c,M,U)(y, \mathcal{L}) = \mathcal{R}_{\mathrm{EBR}}(q, c, \mathcal{M}, \mathcal{U})(y,L)=REBR​(q,c,M,U) 联合生成最终答案 yyy 和内部答案支持轨迹 L\mathcal{L}L。支持轨迹 L\mathcal{L}L 明确将每个主要响应片段与其角色、支持来源和适用的记忆影响指令关联起来。在向用户返回最终响应 yyy 之前,框架验证每条记录的来源确实存在、支持相应片段,并且所有记忆使用均保持在其指令定义范围内。

实验

初步研究表明,即使准确且与任务相关的记忆也能引发迎合行为,因此记忆风险取决于上下文使用而非内容本身。主要实验在三个记忆使用基准和五个记忆系统上评估 MemAdapter,发现其在适当记忆使用方面持续改进,对异构记忆系统具有鲁棒性,并优于现有干预方法。跨骨干测试进一步表明这些优势可推广到主要骨干之外,但增益因记忆系统和任务维度而异。消融结果将大部分改进归因于反事实归纳,基于证据的推理带来额外收益。

MemAdapter 在 MemSyco-Bench、PersistBench 和 MemTrapBench 上相比直接生成和现有干预方法改善了记忆使用行为。在评估的记忆系统中,MemSyco-Bench 各维度和 MemTrapBench 分数的提升保持一致,同时 PersistBench 上的迎合失败也有所减少。PersistBench 的一些指标,特别是有益记忆失败,显示出依赖记忆系统的权衡。MemAdapter 在所有评估的记忆系统中实现了最佳的 When to Use Memory 和 How to Use Memory 准确率,优于其他对比干预方法。相比直接生成,MemAdapter 在所有评估记忆系统上提高了 MemTrapBench 分数,并降低了 PersistBench 上的迎合失败率。在 NaiveRAG 模块中,MemAdapter 改善了大多数指标,但略微增加了有益记忆失败率,显示出依赖记忆系统的权衡。

MemAdapter 在 GPT-5.6-sol 和 Qwen3-8B 两个骨干上均改善了直接生成的整体记忆使用表现。增益因记忆系统和任务维度而异,Qwen3-8B 在记忆与证据冲突处理和有效记忆选择方面提升尤为明显。个性化记忆使用在 Qwen3-8B 上一致改善,但在 GPT-5.6-sol 上变化不一。MemAdapter 在评估的记忆系统和骨干上提高了直接生成的平均准确率。在 Qwen3-8B 下,记忆与证据冲突处理和有效记忆选择的增益尤为突出,而 GPT-5.6-sol 在某些系统中表现出更温和或混合的变化。个性化记忆使用在 Qwen3-8B 的评估记忆系统中均有改善,而 GPT-5.6-sol 表现出混合变化,包括在某些记忆系统中下降。

在两个测试的记忆系统中,随着更多组件加入,MemAdapter 相比直接生成逐步提高记忆使用准确率。反事实归纳在所有任务特定指标上产生广泛增益,最后的基于证据的推理阶段进一步改善,尤其是在有效记忆选择和平均准确率方面。完整配置在每个所示记忆系统中均达到最高报告准确率。反事实归纳在两个记忆系统的每个任务特定指标上都带来一致提升,并大幅提高相比直接生成的平均准确率。加入基于证据的推理带来进一步增益,完整配置取得最佳平均表现,并在有效记忆选择上有显著提升。

评估涵盖 MemSyco-Bench、PersistBench 和 MemTrapBench,将 MemAdapter 与直接生成和现有干预方法在多个记忆系统和骨干上进行比较。MemAdapter 持续提升记忆使用准确率,尤其在 When to Use Memory、How to Use Memory、冲突处理和有效记忆选择方面,同时减少迎合失败,尽管 PersistBench 的一些有益记忆指标显示出依赖记忆系统的权衡。消融实验表明,反事实归纳带来广泛增益,基于证据的推理进一步改善,完整配置取得最佳表现。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供