Chain-of-Table: 推理チェーンにおけるテーブルの進化と理解

テーブルに基づく推論（Table-based reasoning）は、大規模言語モデル（Large Language Models: LLMs）を用いて多くのテーブル理解タスク、例えばテーブルに基づく質問応答や事実確認に取り組む有望な方向性です。一般的な推論と比較して、テーブルに基づく推論では自由形式の質問と半構造化された表データの両方から潜在的な意味を抽出する必要があります。思考チェーン（Chain-of-Thought）および類似手法は、テキストコンテクストの形で推論チェーンを組み込む一方で、表データを効果的に利用する方法についてはまだ未解決の問題となっています。本研究では、表データが中間的な思考の代理として明示的に推論チェーンに使用される「テーブルチェーン」（Chain-of-Table）フレームワークを提案します。具体的には、コンテクスト内学習（in-context learning）を利用してLLMsが反復的に操作を生成し、表を更新して表形式の推論チェーンを表現することを目指します。これにより、LLMsは前の操作結果に基づいて次の操作を動的に計画することが可能となります。この表の継続的な進化がチェーンを形成し、与えられた表問題に対する推論過程を示します。チェーンは中間結果の構造情報を運び、より正確かつ信頼性のある予測を可能にします。「テーブルチェーン」は、WikiTQ、FeTaQA、TabFactベンチマークにおいて複数のLLM選択肢で新しい最先端性能（state-of-the-art performance）を達成しています。