Command Palette

Search for a command to run...

15 天前

Agentic上下文工程:面向自提升语言模型的上下文演化

Agentic上下文工程:面向自提升语言模型的上下文演化

摘要

大型语言模型(LLM)应用,如智能体(agents)和领域特定推理,正越来越多地依赖于上下文自适应——即通过指令、策略或证据来修改输入,而非更新模型权重。以往的方法虽提升了可用性,但普遍存在简略偏差(briefness bias),即为追求简洁而牺牲了领域知识;同时存在上下文坍塌(context collapse)问题,即在多次迭代重写过程中,细节信息逐渐丢失。受动态备忘录(Dynamic Cheatsheet)中引入的自适应记忆机制启发,我们提出ACE(Agentic Context Engineering)框架,将上下文视为持续演化的操作手册,通过生成、反思与整理的模块化流程,逐步积累、优化并组织策略。ACE通过结构化、增量式的更新机制有效防止上下文坍塌,保留详尽知识,并可与长上下文模型良好扩展。在智能体与领域特定基准测试中,ACE在离线(如系统提示词)和在线(如智能体记忆)场景下均能优化上下文表示,持续超越强基线模型:在智能体任务上提升10.6%,在金融领域提升8.6%,同时显著降低适应延迟与部署成本。值得注意的是,ACE无需标注监督信号,而是通过自然执行反馈实现有效适应。在AppWorld排行榜上,ACE在整体平均得分上与排名第一的生产级智能体持平,并在更具挑战性的测试子集上实现超越,且仅使用了一个更小的开源模型。这些结果表明,全面且持续演化的上下文能够构建可扩展、高效且具备自我改进能力的LLM系统,且开销极低。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供