推論時間のスケーリングは、推論フェーズ中に計算リソースを増やすことで大規模言語モデル (LLM) のパフォーマンスを向上させる方法です。 OpenAI の o1 シリーズ モデルは、推論時間のスケーリングの概念を初めて導入したモデルです。Chain-of-Thought 推論プロセスの長さを増やすことで、数学、プログラミング、科学的推論などのタスクで大幅なパフォーマンスの向上を実現しました。

推論時間の拡張は、推論プロセス中に追加のコンピューティング リソース (より多くのコンピューティング ステップ、より複雑な推論戦略など) を割り当てて複数の結果を評価して最適なソリューションを選択することで、モデルのパフォーマンスを向上させることを目的としています。トレーニング リソースを増やすだけでモデル機能を向上させるという従来の制限を打ち破り、複雑なタスクに直面したときにモデルが戦略的に考え、体系的に問題を解決できるようにします。