貪欲デコーディングは、自己回帰言語モデルにおいて使用される基本的なデコード戦略であり、トランスフォーマーアーキテクチャに基づくモデルを含みます。各生成ステップにおいて、モデルは語彙全体に対する確率分布を計算し、貪欲デコーディングはその中で最も高い確率を持つトークンを選択します。このプロセスは、終了トークンが生成されるか、事前に設定された最大長に達するまで繰り返されます。常に最も可能性の高いトークンを選ぶため、貪欲デコーディングは決定的であり、同じ入力とモデル重みが与えられれば毎回同じ出力を生成します。計算効率が高く実装も簡単なため、自然言語処理タスクにおける一般的なベースラインとなっています。しかし、各ステップでの選択が将来のトークンに与える影響を考慮しないため、繰り返しが発生したり、全体として最適でないテキストが生成されることがあります。初期のステップでわずかに確率の低いトークンを選んでいた方が、後続の文脈がより一貫性のあるものになった可能性もあるのです。貪欲デコーディングは、ランダム性を導入するトップkサンプリングやトップpサンプリングのような確率的手法、また複数の候補シーケンスを保持して全体としてより良い出力を探すビームサーチと対比されます。
貪欲デコーディングの仕組み
自己回帰モデルでは、トークン列 \(x_1, x_2, \ldots, x_T\) の確率は、条件付き確率の積として分解されます: \(P(x_1, \ldots, x_T) = \prod_{t=1}^T P(x_t | x_1, \ldots, x_{t-1})\)。貪欲デコーディングは、各時間ステップ \(t\) において、\(P(x_t | x_1, \ldots, x_{t-1})\) を最大化するトークン \(x_t\) を選択することで、最も可能性の高いシーケンスを近似します。これは局所的な最大化であり、大域的な最適化ではありません。アルゴリズムは単純です: プロンプトまたは開始トークンから始め、それをモデルに入力し、次のトークンの確率分布を取得して、argmaxを選び、それを入力に追加して繰り返します。このプロセスは、各ステップでの「最大尤度デコーディング」とも呼ばれます。
利点と欠点
貪欲デコーディングの主な利点は、その単純さと速度です。追加のパラメータや検索構造を必要としないため、インタラクティブなチャットボットやコード補完など、低遅延が求められるリアルタイムアプリケーションに適しています。また、決定的な出力を生成するため、デバッグや再現性の面で有利です。しかし、貪欲デコーディングには重大な欠点もあります。バックトラックを行わないため、同じフレーズの繰り返し（例: "I love you I love you I love you"）に陥りやすく、生成されるテキストが平凡で創造性に欠ける傾向があります。常に最も一般的な単語を選ぶため、情報量が少なく、多様性に欠ける出力になります。研究によれば、貪欲デコーディングは、ストーリーテリングや対話などのオープンエンドな生成タスクにおいて、ビームサーチやサンプリング手法と比較して、しばしば品質の低い出力を生成することが示されています。
ビームサーチとの比較
ビームサーチは、より洗練されたデコード戦略であり、各ステップで \(k\) 個の部分仮説（ビーム）を維持します。各時間ステップで、すべてのビームを展開してすべての可能な次のトークンを考慮し、累積対数確率が最も高い \(k\) 個のシーケンスを保持します。これにより、モデルは複数の経路を探索でき、貪欲デコーディングが陥る局所最適を回避できます。ビームサーチは一般に、貪欲デコーディングよりも一貫性があり、スコアの高いシーケンスを生成しますが、各ステップで \(k\) 倍の候補を評価する必要があるため、計算コストが高くなります。実際には、機械翻訳など、出力長が制約され、大域的な一貫性が重要なタスクでは、中程度のビームサイズ（例: 4または8）がよく使用されます。貪欲デコーディングは、ビームサイズ \(k=1\) のビームサーチと見なすことができます。しかし、ビームサーチもまた、繰り返しや多様性の欠如に悩まされることがあり、そのため創造的な生成タスクではサンプリングベースの手法が好まれます。
使用例と実装
貪欲デコーディングは、出力品質よりも速度が優先される本番システムで広く使用されています。例えば、大規模言語モデルの推論パイプラインにおいて、ユーザーが単純な事実質問をした場合、貪欲デコーディングで十分な正確な回答が得られることがあります。また、研究論文では、より高度な手法と比較するためのベースラインとしても使用されます。実装はほとんどのディープラーニングフレームワークで簡単です: モデルからロジットを取得し、語彙次元に対して argmax を適用するだけです。Hugging FaceのTransformersライブラリなどでは、do_sample=False パラメータを設定することで貪欲デコーディングをトリガーできます。その限界にもかかわらず、貪欲デコーディングは、テキスト生成を学ぶ学生に最初に教えられる基本的な手法であり、人工知能の分野における基礎技術であり続けています。
限界と代替手法
貪欲デコーディングの主な限界は、初期の誤りから回復できないことです。例えば、「The cat sat on the...」という文で、モデルが「mat」を高い確率で予測し、「floor」をわずかに低い確率で予測した場合、貪欲デコーディングは「mat」を選択します。しかし、後続の文脈が「floor」の方が自然だった場合、モデルはその選択を修正できません。このため、温度付きサンプリング、トップkサンプリング、核（トップp）サンプリングなどの代替手法が開発されました。これらの手法は、確率分布からサンプリングすることでランダム性を導入し、最も可能性の高いトークン以外も選択できるようにします。また、コントラスト検索（contrastive search）のような手法は、モデルの信頼度と生成テキストの多様性のバランスを取ります。実際には、デコード戦略の選択はタスクに依存します: 事実生成では貪欲デコーディングやビームサーチが好まれ、創造的な文章生成ではサンプリング手法が適しています。
参考文献
- 貪欲デコーディングは、Daniel JurafskyとJames H. Martinによる標準的な教科書『Speech and Language Processing』で説明されています。
- 貪欲デコーディングの限界は、Sutskeverら（2014年）やBahdanauら（2015年）によるニューラル機械翻訳に関する論文で議論されています。
- デコード戦略の包括的な比較については、Holtzmanら（2019年）の論文『The Curious Case of Neural Text Degeneration』を参照してください。この論文では、貪欲デコーディングとビームサーチの問題点を指摘し、核サンプリングを提案しています。
---
注: この記事は、現代のニューラル言語モデルにおける貪欲デコーディングの概念に焦点を当てています。これは、より広範な最適化手法のクラスである貪欲アルゴリズム一般とは混同しないでください。