HyperAIHyperAI

Command Palette

Search for a command to run...

7 天前
Agent
LLM

原子任务图:面向智能体规划与执行的统一框架

Yue Zhang Sihan Chen Ziwen Huang Hanyun Cui Kangye Ji Zhi Wang

摘要

基于大语言模型的智能体在解决复杂多步任务方面展现出强大潜力,但现有性能提升往往依赖扩大骨干模型规模或针对特定任务微调。前者计算成本高昂,后者通常在不同任务间泛化能力较差。尽管基于提示的控制无需训练且适用范围广,现有方法仍将子任务间的输入输出依赖隐含在文本轨迹中,导致已验证的中间结果难以复用。为解决这些局限,我们提出原子任务图(ATG),这是一个贯穿规划与执行的统一控制框架。具体而言,ATG维护显式图结构以暴露依赖关系并支持复用。在规划阶段,它递归地将高层任务分解为子任务,形成一系列有向无环图,其演化过程可被追溯。在执行阶段,ATG暴露的依赖关系允许独立分支并行执行,从而提升执行效率。当检测到失败时,ATG利用图演化历史定位错误源头,仅修复受影响区域,保持已验证区域不变。实验表明,在三个交互式基准测试中,仅使用7B–8B骨干模型,ATG在成功率和执行效率上均持续优于强基线方法。

一句话总结

华南理工大学和清华大学的研究人员提出了原子任务图(ATG),一个统一的规划-执行框架,将子任务依赖关系显式建模为有向无环图,以实现递归分解、并行执行和局部错误修复,从而在仅使用7B–8B骨干模型的三个交互式基准测试中,在成功率和执行效率上均优于强基线。

核心贡献

  • 原子任务图(ATG)是一个统一的控制框架,将LLM agent任务求解建模为原子工具使用单元的有向图,在规划与执行过程中具有显式的输入输出依赖关系。
  • 保持接口的递归图编译逐步分解任务,同时记录图的演变并局部化节点上下文,减少幻觉动作并支持错误追踪。
  • 依赖感知的图执行与最小必要子图修复,能够并行执行独立分支,实现故障定位和局部修复,而无需全局重规划。在ALFWorld、WebShop和ScienceWorld上使用7B–8B骨干模型的实验表明,成功率和执行效率均有持续提升。

引言

作者利用LLM驱动的自主agent处理复杂的多步任务,但指出现有的基于提示的框架将问题求解组织为线性序列,耦合错误并导致广泛的故障传播,缺乏显式的依赖结构。先前的工作难以定位故障,依赖低效的重规划,并因不断增长的文本上下文而产生幻觉动作。为解决这些问题,作者提出了原子任务图(ATG),一个统一的控制框架,将agent任务求解表示为原子工具使用单元的有向无环图,采用保持接口的递归图编译来暴露依赖关系并局部化上下文,以及依赖感知的执行与最小必要子图修复,以实现并行执行和有针对性的故障恢复。

方法

作者提出了原子任务图(ATG),一个统一的控制框架,在整个规划和执行过程中集成图结构,以求解复杂的多步任务。如框架图所示,ATG将agent任务求解形式化为有向无环图(DAG),显式暴露子任务依赖关系,支持并行执行,并定位故障以实现精确修复。

ATG流水线包含三个关键阶段:保持接口的递归图编译、依赖感知执行和最小必要子图修复。

首先,保持接口的递归图编译将粗粒度的用户任务转化为可执行的原子任务图。从一个初始的粗粒度任务图开始,系统递归地细化非原子节点,直到每个节点代表一个单一的原子工具使用单元。在每一步细化中,大语言模型仅访问与当前节点直接相关的历史上下文,逐步缩小上下文窗口。一个关键的设计原则是接口保持。如果父节点vvv具有外部输入接口ivi_viv和输出接口ovo_vov,则编译后的子图GvG_vGv必须共同消耗相同的外部输入,并产生与ovo_vov兼容的输出。这确保了用GvG_vGv替换vvv不会改变图的其余部分与该计算交互的方式。当所有节点都是原子节点时递归终止,中间图被记录下来形成细化历史。该历史可作为可解释的追踪记录,并为局部自我纠正奠定基础。

其次,依赖感知执行在编译后的图上运行。在实际执行之前,一个思维实验充当预执行过滤器,在内部模拟预期过程。此步骤暴露潜在的结构或操作故障,例如错误的工具选择或接口不匹配,将恢复负担从昂贵的执行转移到成本较低的模拟。然后,节点根据图依赖关系所诱导的拓扑顺序执行。一个节点仅当所有前驱节点已完成且所需输入已解析时才可执行,这使得系统能够利用独立分支的结构并行性。在执行过程中,系统记录每个节点的输入、输出、执行状态和错误信息,为下游恢复提供精确证据。

第三,最小必要子图修复局部地而非全局地处理故障。当思维实验或实际执行期间发生故障时,系统将其定位到失败的原子节点vfv_fvf或一组失败节点FFF。这些节点通过细化历史回溯,以确定它们的最低共同历史祖先afa_faf,该祖先标记了引入故障的原始规划范围。然后,系统构建一个最小修复子图,覆盖失败节点、其相关上游上下文以及受影响的下游节点。ATG的其余部分被冻结,以保留已验证的状态并避免冗余重计算。系统仅修复该子图,通过替换不正确的工具、插入缺失的节点或调整局部依赖关系,并在保持其外部输入-输出接口的同时将其重新集成到主图中。

实验

ATG在三个长时域agent基准测试(ALFWorld、WebShop、ScienceWorld)上使用开源骨干模型(Mistral-7B、Gemma-7B、Llama-3-8B)进行评估,并与隐式、显式和多agent控制基线进行比较。它在所有设置中均持续取得最佳性能,其收益归因于其基于图的可执行基底,该基底支持依赖追踪、并行执行、预执行验证和局部故障恢复,而不仅仅是引入规划结构。分析进一步表明,ATG减少了执行步骤和幻觉动作,通过思维实验提前捕获规划失败,并在不同骨干模型上稳健扩展,证明有效的控制框架可以缩小较小模型与较大模型之间的差距。

ATG在ALFWorld、WebShop和ScienceWorld上始终优于所有基线,尤其在Mistral-7B上提升显著。在ALFWorld和WebShop上,它比ReAct高出超过48个百分点,并在这两个基准上比最强的显式控制基线PoG高出超过32个百分点。消融实验证实,预执行思维实验和最小子图修复都至关重要,其中子图修复对长时域任务的影响更大。在Mistral-7B上,ATG在ALFWorld上比ReAct提高49.16个百分点,在WebShop上提高48.12个百分点。ATG在ALFWorld上比最佳显式控制基线PoG高出32.01个百分点,在WebShop上高出38.57个百分点(使用Mistral-7B)。移除预执行思维实验使ALFWorld上的性能最多下降4.87个百分点,而移除最小子图修复则导致更大的下降,最多达7.72个百分点。

在ALFWorld、WebShop和ScienceWorld上,ATG实现了最低的平均步骤数,并行分支计为单步。与基于提示的基线(如ReAct)和显式控制方法(如PoG)相比,它大幅减少了步骤,展示了依赖感知并行执行的效率。ATG所需的平均步骤数少于所有基线,相对于ReAct最多减少42%的步骤,相对于最强基线PoG最多减少25%。ATG中的并行分支执行压缩了有效深度:该方法将并发动作计为一步,因此在所有三个环境中步骤数始终更低。

基于提示的agent存在高幻觉动作率,ReAct和Reflexion超过38%的轨迹包含无效动作。结构化规划方法如ToT和PoG部分缓解了这一问题,但仍有超过四分之一的情况产生幻觉动作。ATG将比率大幅降低至12.14%,相对于ReAct实现了71.7%的相对减少,相对于PoG实现了57.5%的相对减少,证明其依赖感知执行和预执行验证有效防止了无效动作。基于提示的基线(ReAct、Reflexion)的幻觉动作率超过38%。显式控制方法(ToT、PoG)降低了比率,但仍超过28%。ATG达到了12.14%的比率,不到次优方法PoG的一半。

在ALFWorld、WebShop和ScienceWorld上,ATG与基于提示和显式控制的基线进行了评估,显示出成功率的大幅提升,特别是在Mistral-7B等较小模型上。消融实验确认,预执行思维实验和最小子图修复都至关重要,子图修复对长时域任务的影响更大。ATG还通过并行执行独立动作实现了最低的步骤数,并通过依赖感知验证大幅降低了幻觉动作率。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供