تُستخدم نماذج اللغة بشكل متزايد في حل المشكلات العامة عبر مجموعة واسعة من المهام، لكنها ما زالت محدودة بعمليات اتخاذ القرار على مستوى الرموز (tokens) وباتجاه يسار إلى يمين أثناء الاستدلال. وهذا يعني أنها قد تفشل في المهام التي تتطلب استكشافًا، أو تفكيرًا مسبقًا استراتيجيًا، أو حيث تلعب القرارات الأولية دورًا حاسمًا. ولتجاوز هذه التحديات، نقدّم إطارًا جديدًا لاستدلال نماذج اللغة، يُعرف بـ "شجرة الأفكار" (Tree of Thoughts - ToT)، الذي يعمّم من النهج الشهير المعروف بـ "سلسلة التفكير" (Chain of Thought) في توجيه نماذج اللغة، ويُمكّن من استكشاف وحدات متماسكة من النص (الأفكار) التي تعمل كخطوات وسيطة نحو حل المشكلات. يسمح إطار ToT لنماذج اللغة باتخاذ قرارات متعمّدة من خلال النظر في مسارات تفكير مختلفة، وتقييم الخيارات ذاتيًا لاتخاذ القرار التالي، بالإضافة إلى القدرة على التفكير المسبق أو العودة للخلف عند الحاجة لاتخاذ قرارات شاملة. أظهرت تجاربنا أن ToT يُحسّن بشكل ملحوظ قدرة نماذج اللغة على حل المشكلات في ثلاث مهام جديدة تتطلب تخطيطًا أو بحثًا غير بسيط: لعبة 24، والكتابة الإبداعية، وحل الألغاز الصغيرة (Mini Crosswords). على سبيل المثال، في لعبة 24، بينما حل نموذج GPT-4 مع التوجيه عبر سلسلة التفكير فقط 4% من المهام، حقق نهجنا معدل نجاح بلغ 74%. يُمكن الاطلاع على رمز الكود الكامل مع جميع النماذج (prompts) من خلال الرابط التالي: https://github.com/princeton-nlp/tree-of-thought-llm.