Tree of Thoughts(ToT)는 프린스턴 대학교와 Google DeepMind가 2023년에 발표한 논문입니다.생각의 나무: 대규모 언어 모델을 활용한 의도적인 문제 해결"는 "에서 제안되었습니다.

본 논문에서는 널리 사용되는 사고 사슬 방법을 일반화하여 언어 모델을 유도하고 문제 해결의 중간 단계로서 일관된 텍스트 단위(아이디어)를 탐색할 수 있게 하는 새로운 언어 모델 추론 프레임워크인 사고의 나무(ToT)를 제안합니다. ToT를 통해 LM은 여러 가지 추론 경로와 자체 평가 옵션을 고려하여 다음 작업을 결정하고, 필요한 경우 미래나 과거를 돌아보며 전반적인 선택을 하여 신중한 결정을 내릴 수 있습니다. 우리의 실험은 ToT가 사소하지 않은 계획이나 검색을 요구하는 세 가지 새로운 과제, 즉 24점 게임, 창의적 글쓰기, 미니 크로스워드 퍼즐에서 언어 모델의 문제 해결 능력을 크게 향상시킨다는 것을 보여줍니다. 예를 들어, "24 포인트 게임"에서 GPT-4는 생각의 사슬 프롬프트를 사용하여 4% 과제만 풀었지만, 이 연구의 방법은 74%의 성공률을 달성했습니다.