思维树(Tree of Thoughts,简称 ToT)是普林斯顿大学和 Google DeepMind 于 2023 年在论文「Tree of Thoughts: Deliberate Problem Solving with Large Language Models」中提出。
该论文研究提出了一个新的语言模型推理框架,即思维树 (ToT),它概括了流行的思维链方法,以提示语言模型,并能够探索作为解决问题中间步骤的连贯文本单元 (思想) 。 ToT 允许 LM 通过考虑多种不同的推理路径和自我评估选择来决定下一步行动,以及在必要时向前看或回溯以做出全局选择,从而进行深思熟虑的决策。研究的实验表明,ToT 显著增强了语言模型在三个需要非平凡规划或搜索的新任务上的问题解决能力:24 点游戏、创意写作和迷你填字游戏。例如,在「24 点游戏」中,采用思路链提示的 GPT-4 仅解决了 4% 的任务,而该研究的方法成功率达到了 74% 。