Tree of Thoughts (ToT) は、プリンストン大学と Google DeepMind によって 2023 年に発表された論文です。Tree of Thoughts: 大規模な言語モデルを使用した意図的な問題解決』で提案されました。

この論文研究は、新しい言語モデル推論フレームワーク、つまり Tree of Thought (ToT) を提案します。これは、言語モデルを促し、問題解決の中間ステップとして一貫したテキスト単位 (思考) の探索を可能にする、一般的な思考連鎖手法を一般化したものです。 ToT を使用すると、LM は、次のステップを決定するための複数の異なる推論経路と自己評価のオプションを検討することにより、思慮深い決定を下すことができ、また、全体的な選択を行うために必要な場合には前方または後方を見据えることができます。この研究の実験では、ブラックジャック、クリエイティブライティング、ミニクロスワードパズルという、重要な計画や検索を必要とする3つの新しいタスクにおいて、ToTが言語モデルの問題解決能力を大幅に強化することが示されている。たとえば、「24 ポイント ゲーム」では、アイデア チェーン プロンプトを使用した GPT-4 は 4% のタスクしか解決できませんでしたが、この研究における方法の成功率は 74% に達しました。