LaMDA 2は、対話アプリケーション向けにGoogleが開発した大規模言語モデルである。2022年5月に発表され、2021年のGoogle I/Oで紹介された元のLaMDAモデルの後継にあたる。LaMDA 2は、前身よりも自然で役立つ、オープンエンドな多ターン会話を行うように設計されており、安全性、事実に基づく根拠付け、ユーザーの意図に応じて応答を調整する能力の向上に重点を置いている。
このモデルは、現代の人工知能と機械学習において基礎となっているニューラルネットワーク設計であるトランスフォーマーアーキテクチャに基づいている。マルチヘッドアテンション機構を備えたシーケンス・ツー・シーケンスの枠組みを使用し、文脈を考慮した会話テキストの処理と生成を可能にしている。LaMDA 2は、公開された対話データとウェブテキストの大規模なコーパスで訓練され、深層学習技術を用いて会話パターンと世界知識を学習した。
アーキテクチャと訓練
LaMDA 2は、前身のコアアーキテクチャであるデコーダーのみのトランスフォーマーモデルを維持している。元のLaMDAは最大1370億パラメータで訓練され、LaMDA 2も同様の規模に従うが、正確なパラメータ数は公表されていない。訓練には2段階のプロセスが含まれていた。第一に、言語表現を学習するための多様な対話とウェブ文書のデータセットでの事前訓練、第二に、教師あり学習と人間のフィードバックからの強化学習（RLHF）を組み合わせた微調整である。
微調整段階は、モデルの安全性と品質を向上させる上で重要だった。Googleは、人間の評価者を雇い、妥当性、具体性、興味深さなどの指標でモデルの応答を評価させた。RLHFにより、モデルはこれらの品質を最適化し、無意味または有害な出力を生成する可能性を減らすことができた。さらに、LaMDA 2は「グラウンディング」と呼ばれる技術を組み込み、モデルが検索結果などの外部情報源を参照して、会話中の事実の正確性を向上できるようにした。
安全性と事実性
LaMDA 2の重要な焦点は、特に安全性と事実性の面で元のモデルの限界に対処することだった。元のLaMDAは、偏ったまたは事実的に誤った発言を時折生成することで批判された。LaMDA 2は、「安全性」（有害または有毒な言葉を避けること）と「事実性」（発言が信頼できる情報源によって裏付けられていることを保証すること）を含む新しい安全性指標のセットを導入した。
これらの目標を達成するため、Googleは訓練中に分類器ベースのアプローチを実装し、応答を安全性基準に基づいてフィルタリングおよびランク付けした。モデルはまた、情報が不足していることを認識し、推測するのではなく明確化の質問をするように訓練された。これは、自信過剰でありながら不正確な回答をしばしば生成した初期のモデルからの脱却だった。LaMDA 2のグラウンディング機能は特に注目に値し、検索エンジンが応答に情報を提供するのと同様に、モデルが外部情報をリアルタイムで取得して引用することを可能にした。
制御可能性とユーザーの意図
LaMDA 2のもう一つの進歩は、制御可能性の向上だった。モデルはユーザーの指示をより効果的に理解し、従うように設計され、ユーザーが応答のトーン、スタイル、または内容を指定できるようにした。例えば、ユーザーは正式なトーンでの応答を求めたり、トピックの要約を要求したりでき、LaMDA 2はそれに応じて出力を調整した。
これは「意図条件付け」と呼ばれる技術を通じて達成され、モデルはユーザーの指示と望ましい応答特性をペアにした例で微調整された。これにより、LaMDA 2は、デフォルトの会話スタイルから逸脱するのに苦労することが多かった前身よりも多用途になった。Googleは一連のインタラクティブなデモでこの能力を示し、LaMDA 2が異なるキャラクターのロールプレイ、ステップバイステップの指示の提供、または創造的な文章作成タスクに従事できることを実証した。
応用と影響
LaMDA 2は主に研究の進歩として紹介され、Googleはその機能をGoogle AssistantやGoogle CloudのAIサービスなどの製品に統合した。しかし、このモデルは、OpenAIやAnthropicなどの一部の競合他社のモデルと同じように公開APIとしてリリースされなかった。代わりに、GoogleはLaMDA 2を使用して内部製品を改善し、PaLMやGeminiなどの後続モデルの開発に情報を提供することに焦点を当てた。
このモデルはまた、会話型AIの性質についての公開討論を引き起こした。特に、Googleのエンジニアが元のLaMDAが知覚を達成したと主張した後である。LaMDA 2はその論争に直接関与していなかったが、対話モデルの成長する能力とそれらを取り巻く倫理的考慮事項を浮き彫りにした。スタンフォードAIラボやMIT CSAILなどの機関の研究者は、LaMDA 2を生成AIの急速な進歩の例として挙げると同時に、そのようなモデルが責任を持って使用されることを保証する課題にも言及している。
評価と遺産
LaMDA 2は、安全性と制御可能性の改善についてAI研究者から概ね肯定的な評価を受けたが、一部の批評家は、時折の事実誤認や冗長になる傾向など、依然として限界があると指摘した。モデルのグラウンディング機構は前進と見なされたが、常に信頼できるわけではなく、GoogleはLaMDA 2を他の大規模言語モデルと比較する詳細なベンチマークを公開しなかった。
これらの限界にもかかわらず、LaMDA 2は対話システムのその後の研究に影響を与えた。RLHFとグラウンディングへの焦点は、OpenAIやAnthropicによって開発されたものを含む後のモデルで標準的な実践となった。2024年現在、LaMDA 2はGoogleのAIロードマップにおける過渡的なモデルと見なされ、初期の会話モデルとより高度なマルチモーダルシステムの間のギャップを埋めている。その開発は、Googleの人工知能へのより広範な取り組みに貢献し、他の主要プレーヤーと並んで同社をこの分野のリーダーとして位置付けた。