Command Palette

Search for a command to run...

2 个月前

DeepResearch Arena:通过研讨会基础任务对LLMs研究能力的首次检验

DeepResearch Arena:通过研讨会基础任务对LLMs研究能力的首次检验

摘要

深度研究代理因其在协调多阶段研究工作流方面的潜力而受到越来越多的关注,这些工作流涵盖文献综述、方法论设计以及实证验证等多个环节。尽管取得了显著进展,但由于难以获取真正反映研究人员兴趣与学术好奇心的前沿研究问题,对其研究能力进行真实可靠的评估仍面临巨大挑战。为弥补这一空白,我们提出了 DeepResearch Arena——一个基于学术研讨会构建的基准测试平台,该平台能够捕捉丰富的专家讨论与互动内容,更真实地反映现实研究环境,并有效降低数据泄露的风险。为实现 DeepResearch Arena 的自动化构建,我们提出了一种多智能体分层任务生成(Multi-Agent Hierarchical Task Generation, MAHTG)系统,该系统能够从研讨会记录中提取具有研究价值的灵感。MAHTG 系统进一步将这些研究灵感转化为高质量的研究任务,在确保研究任务生成过程可追溯的同时,有效过滤噪声信息。借助该系统,我们从超过200场学术研讨会中,覆盖12个学科领域(如文学、历史学与自然科学等),精心构建了包含逾10,000个高质量研究任务的 DeepResearch Arena。大规模评估结果表明,该基准平台对当前最先进的研究代理构成了显著挑战,不同模型之间均呈现出明显的性能差距。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供