温度係数（Temperature）は、大規模言語モデルのデコーディング段階においてサンプリングのランダム性を制御するパラメータです。モデルは各ステップで次のトークンの確率分布を出力しますが、温度 T はロジットをスケーリング（まず T で除算し、その後 softmax を適用）することで分布の鋭さを調整します。T が 1 より小さい場合、分布はより鋭くなり、出力はより確定的で保守的になります。T が 1 より大きい場合、分布はより平坦になり、出力は多様性を増しますが、逸脱もしやすくなります。T が 0 に近づく場合、これは貪欲デコーディングと同等であり、ほぼ常に最も確率の高いトークンを選択します。T が 1 の場合、分布は元のまま保持されます。

温度係数の概念は、統計物理学におけるボルツマン分布およびシミュレーテッド・アニーリング（模擬焼きなまし法）に由来します。1983 年、Kirkpatrick らは論文 [Optimization by Simulated Annealing](https://doi.org/10.1126/science.220.4598.671 において、「温度」を探索のランダム性を制御するパラメータとして導入しました。温度が高い間は局所最適解からの脱出が許容され、時間経過とともに温度を下げることで段階的に収束させます。この手法は後にサンプリング手法や softmax に流用され、生成モデルにおいて分布を調整するための一般的な手段となりました。

温度係数の典型的な用法は、top-k や top-p（核サンプリング）との併用です。まず温度により分布を調整し、その後ロングテールを切り捨てることで、多様性と一貫性のバランスを取ります。実務上の経験則として、創造的なライティングやブレインストーミングでは温度を高く設定し、コード生成、数学的推論、事実ベースの質問応答では温度を低く設定するのが適切です。

温度係数の効果は定量化可能です。2026 年、Parupudi らは論文 [Before and After Temperature: A Distributional View of Creative LLM Generation](https://arxiv.org/abs/2606.01451 において、Llama-3.1-8B をベースに T = 0.3/0.8/1.5 で 500 件のオープンエンドな創造的プロンプトを生成しました。その結果、「温度が分布をどのように再構築するか」という単一の特徴量のみで、Spearman 相関係数 ρ = 0.918 という高い精度で創造性のランキングを予測できることが判明し、パープレキシティなどの従来指標を明確に上回りました。これは、温度が単なる感覚的な調整ノブではなく、創造性と安定性を調整するための重要なインターフェースであることを示しています。

[JIALIU_0]