温度スケーリングは、機械学習、特に大規模言語モデルにおいて、生成出力のランダム性を制御するために用いられる手法である。これは、モデルの最終層が生成するロジット（生の非正規化スコア）を、ソフトマックス関数を適用する前に温度値で除算することで機能する。この調整により、結果として得られる確率分布の尖り具合が変化し、モデルの予測がどれほど確信的であるか、あるいは多様であるかに直接影響を与える。この手法は、テキスト補完、対話生成、コード合成などのタスクにおいて、一貫性と創造性のバランスを取るために、生成AIシステムで広く適用されている。
この概念は統計力学に起源を持ち、温度が系のエントロピーを支配するという考え方を、予測の不確実性を管理するためにニューラルネットワークに応用したものである。実際には、温度スケーリングは単純でありながら強力なハイパーパラメータであり、実務者は望む出力特性を得るためにこれを調整する。これはtop-kサンプリングやtop-pサンプリングのような他のサンプリング戦略とは異なるが、しばしばそれらと組み合わせて使用される。この手法は、OpenAI、Anthropic、Google DeepMindによって開発されたものを含む、事実上すべての現代的なトランスフォーマーベースのアーキテクチャに実装されている。
数学的定式化
ニューラルネットワークにおいて、出力層は語彙内の各可能なトークンに対してロジットのベクトル \( z_i \) を生成する。標準的なソフトマックス関数は、これらのロジットを次のように確率 \( p_i \) に変換する：
\[ p_i = \frac{e^{z_i}}{\sum_j e^{z_j}} \]
温度スケーリングでは、温度パラメータ \( T \) が導入され、式は次のように修正される：
\[ p_i = \frac{e^{z_i / T}}{\sum_j e^{z_j / T}} \]
\( T = 1 \) の場合、関数は変更されない。\( T < 1 \) の場合、ロジットは1より小さい数で除算され、ロジット間の差が増幅され、分布がより尖って決定的になる。\( T > 1 \) の場合、ロジットはより大きな数で除算され、差が縮小して分布が平坦化し、ランダム性が増す。\( T \) がゼロに近づくにつれて、分布はワンホットベクトル（argmax）に収束し、\( T \) が無限大に近づくにつれて、一様分布に近づく。
出力品質への影響
温度の選択は、生成テキストの品質と性質に大きな影響を与える。低い温度（例：0.1〜0.3）は、コード生成や数学的推論など、単一の正解が期待される、高い正確性と事実との整合性を必要とするタスクでしばしば使用される。高い温度（例：0.8〜1.5）は、多様性と新規性が重視される創造的な文章作成、ブレインストーミング、または対話エージェントで好まれる。しかし、過度に高い温度は、モデルが可能性の低いトークンを選択する可能性があるため、一貫性のない、または無意味な出力につながる可能性がある。
ChatGPTやClaudeのようなシステムでの実証研究と実践的使用は、バランスの取れた応答のための一般的なデフォルトとして、約0.7の温度が一般的であることを示している。機械学習研究において、温度スケーリングはキャリブレーションにも使用され、学習された温度を適用してモデルの予測の信頼度の正確性を向上させる。これは、Guoらによる2017年の論文「On Calibration of Modern Neural Networks」で説明されている。
他のサンプリング手法との関係
温度スケーリングは、出力生成を洗練させるために、しばしば他のサンプリング手法と組み合わせられる。Top-kサンプリングは、候補トークンのプールを最も可能性の高いk個に制限し、top-pサンプリング（核サンプリングとも呼ばれる）は、累積確率が閾値pを超える最小のトークン集合を選択する。温度はこれらのフィルターの前に適用され、トークンの相対的な確率を変更する。例えば、高い温度はあまり一般的でないトークンが選択される可能性を高めるが、top-pは極めて可能性の低いトークンの選択を依然として防ぐことができる。この組み合わせにより、多様性と品質の間のトレードオフを細かく制御することが可能になる。
対照的に、ビームサーチのような決定的な復号法は、最高確率のシーケンスを見つけることを目的とするため、温度を使用しない。温度スケーリングは、主に確率的サンプリングに関連しており、これはオープンエンドな生成タスクに好まれる。
実践における実装
現代の深層学習フレームワークでは、温度スケーリングは通常、ソフトマックス層の前のロジットに対する単純な除算演算として実装される。例えば、PyTorchやTensorFlowでは、logits / temperature を計算してから softmax を適用することができる。温度値はハイパーパラメータであり、グローバルに設定することも、コンテキストに基づいて動的に調整することもできる。OpenAIやAnthropicからのいくつかのシステムは、温度をAPIパラメータとして公開しており、ユーザーがリクエストごとに指定できるようにしている。
NVIDIA GPU（リストにはないが、一般的に使用される）や、GroqやSambaNovaの専用チップのようなハードウェアアクセラレータは、計算が要素単位で並列化可能であるため、これらの操作を効率的に処理する。大規模なデプロイメントでは、温度スケーリングはサーバー側で適用され、結果として得られるトークン確率がサンプリングに使用される。
さまざまな領域への応用
テキスト生成以外にも、温度スケーリングは他の深層学習アプリケーションで使用されている。コンピュータビジョン（リストにはないが、関連する）では、分類モデルのキャリブレーションに役立つ。強化学習（リストにはない）では、ポリシーネットワークの探索と活用のトレードオフを制御する。音声認識（リストにはない）では、音響モデルの出力の信頼度を調整する。この手法は、系列変換タスクのニューラルネットワークにも関連しており、翻訳や要約の多様性に影響を与える。
人工知能の安全性の文脈では、温度スケーリングはモデルの動作を調整するためのツールである。例えば、低い温度を設定すると、モデルがより安全で可能性の高い応答に固執するため、有害または偏ったコンテンツを生成する可能性を減らすことができる。しかし、これは完全な解決策ではなく、RLHF（人間のフィードバックからの強化学習）のような他の手法がしばしば採用される。
歴史的発展
ニューラルネットワークにおける温度の使用は、1980年代のボルツマンマシンと焼きなまし法に関する初期の研究にまで遡る。1990年代には、研究者は分類のためのニューラルネットワークのソフトマックスに温度を適用して、決定境界を制御した。言語モデルにおける温度スケーリングの現代的な人気は、2010年代のトランスフォーマーの出現とともに高まり、特に2019年のGPT-2のリリース後、サンプリングパラメータの重要性が強調された。それ以来、これはすべての主要な大規模言語モデルAPIの標準機能となっている。
スタンフォードAIラボとバークレーAIリサーチの研究者は、温度のキャリブレーション特性を研究し、それをモデルの不確実性に結び付けている。この手法は、カリキュラム学習やデータ拡張の文脈でも議論されており、温度を時間の経過とともにアニーリングして、徐々に決定性を高めることができる。
限界と考慮事項
温度スケーリングは万能薬ではない。これは、基礎となるモデルの知識や推論能力を変更するものではなく、サンプリング分布にのみ影響を与える。低い温度は、誤った事実を学習したモデルを修正することはできず、高い温度はモデルをより知的にすることはできない。さらに、温度は生成トークン数などの他のハイパーパラメータと相互作用し、その最適値はタスクやデータセットによって異なる可能性がある。
もう一つの考慮事項は、温度スケーリングがすべてのトークンに均一に適用されることである。一方、いくつかのコンテキストでは、異なるレベルのランダム性が必要な場合がある。例えば、対話システムでは、応答の最初のトークンはより高い温度の恩恵を受けるかもしれないが、後続のトークンは一貫性のために低い温度を必要とするかもしれない。動的温度調整のような高度な技術は、進行中の研究分野である。
将来の方向性
生成AIが進化し続けるにつれて、温度スケーリングは基本的なツールであり続ける。研究者は、データから最適値を学習する適応的温度法や、コンテキスト依存の温度スケジュールを探求している。オープンパネルモデルとAMDおよびIntelハードウェアの台頭により、温度スケーリングの実装はよりアクセスしやすくなっている。この手法はまた、AWS TrainiumやAzure AIサービスにも統合されており、開発者がデプロイしやすくなっている。
要約すると、温度スケーリングは、ニューラルネットワーク出力の確率性を制御するための、単純でありながら本質的なメカニズムである。その数学的な優雅さと実用的な有用性は、機械学習およびそれ以外の分野におけるその継続的な関連性を保証している。