要約

現代の大規模言語モデル（LLM）は、主に「思考」を、Chain-of-Thought（CoT）など明示的なテキスト生成によって実現している。このアプローチは推論を事後学習段階に遅らせる一方で、事前学習段階で得られたデータの活用が不十分である。本研究では、無限に自己を喰らう蛇（オウロボロス）にちなんで名付けられたOuroを紹介する。Ouroは、事前学習段階に推論能力を組み込む「ループ型言語モデル（LoopLM）」のファミリーであり、(i)潜在空間における反復的計算、(ii)学習された推論深さの割り当てをentropy正則化した目的関数、(iii)7.7兆トークン規模へのスケーリングを特徴とする。Ouro 1.4Bおよび2.6Bモデルは、広範なベンチマークにおいて、最大120億パラメータの最先端LLMと同等の性能を達成している。制御実験により、この優位性は知識容量の増加に起因するものではなく、知識の操作能力の優位性に由来することを示した。また、LoopLMは明示的なCoTと比較して、最終出力とより整合性の高い推論トレースを生成することも示した。本研究の成果が、推論の時代における新たなスケーリング戦略としてのLoopLMの可能性を示すことを期待する。モデルの公開ページは以下の通り：http://ouro-llm.github.io。