12 天前
内在记忆智能体:通过结构化上下文记忆实现的异构多智能体LLM系统
Sizhe Yuen, Francisco Gomez Medina, Ting Su, Yali Du, Adam J. Sobey

摘要
基于大型语言模型(LLMs)构建的多智能体系统在复杂协作问题求解方面展现出巨大潜力,但其仍面临根本性挑战,主要源于上下文窗口的限制,这些限制导致记忆一致性、角色遵循性以及程序完整性受损。本文提出了一种名为“内在记忆智能体”(Intrinsic Memory Agents)的新框架,通过结构化的、随智能体输出内在演化的专属记忆机制,有效应对上述挑战。具体而言,我们的方法维护了与角色对齐的记忆模板,在聚焦任务相关性信息的同时,保持了各智能体的特定视角。我们在PDDL数据集上对所提方法进行了基准测试,将其性能与现有最先进多智能体记忆方法进行对比,结果显示在保持最高令牌效率的前提下,性能提升了38.6%。此外,我们在一个复杂的数据管道设计任务上进行了额外评估,通过五个指标——可扩展性、可靠性、可用性、成本效益和文档完整性——进行比较,结果表明我们的方法生成的设计质量更高,并辅以定性证据进一步验证了改进效果。研究结果表明,通过结构化、内在化的记忆机制来应对记忆限制,能够显著提升多智能体LLM系统在结构化规划任务中的能力。