Tree of Thoughts (ToT) ist ein 2023 erschienenes Papier der Princeton University und Google DeepMind mit dem TitelGedankenbaum: Bewusste Problemlösung mit großen Sprachmodellen" wurde vorgeschlagen in der "

In diesem Artikel wird ein neues Framework für die Argumentation von Sprachmodellen vorgeschlagen, der sogenannte Tree of Thought (ToT). Dieser verallgemeinert die beliebte Methode der Gedankenkette zur Anregung des Sprachmodells und ermöglicht die Untersuchung zusammenhängender Texteinheiten (Ideen) als Zwischenschritte bei der Problemlösung. ToT ermöglicht es LM, wohlüberlegte Entscheidungen zu treffen, indem es mehrere verschiedene Denkpfade und Optionen zur Selbstbewertung in Betracht zieht, um über die nächste Aktion zu entscheiden, und indem es nach vorne oder hinten blickt, um bei Bedarf globale Entscheidungen zu treffen. Unsere Experimente zeigen, dass ToT die Problemlösungsfähigkeiten von Sprachmodellen bei drei neuen Aufgaben, die eine nicht triviale Planung oder Suche erfordern, erheblich verbessert: 24-Punkte-Spiel, kreatives Schreiben und Mini-Kreuzworträtsel. Beispielsweise löste GPT-4 im „24-Punkte-Spiel“ mithilfe von Gedankenkettenaufforderungen nur 4%-Aufgaben, während die Methode dieser Studie eine Erfolgsrate von 74% erreichte.