Gato 1.2Bは、Google DeepMindによって開発された、12億のパラメータを持つニューラルネットワークモデルです。これはTransformer (architecture)ベースの言語モデルであり、テキスト生成、画像キャプション、ロボット制御など、幅広いタスクを単一の重みセットで処理できるように設計されています。このモデルは、多様な環境にわたって学習し行動できる汎用エージェントを作成するというDeepMindの取り組みの一環として、2022年に発表されました。
Gato 1.2BのアーキテクチャはEncoder-Decoder Architecture設計に従っていますが、主にシーケンス間モデルとして動作します。入力はトークンシーケンスとして処理され、テキスト、画像、アクションは離散トークンに変換されます。この統一表現により、モデルはタスク固有の変更なしにモダリティを切り替えることができます。モデルはマルチヘッドアテンション機構と位置エンコーディングを採用し、可変長入力に対応します。
トレーニングとデータ
Gato 1.2Bは、書籍やウェブページのテキスト、公開データセットの画像、シミュレーションおよび実世界のロボット環境からのデモデータを含む多様なデータセットでトレーニングされました。トレーニングでは、テキストと画像トークンにはクロスエントロピー損失を使用し、アクショントークンには別の損失を使用しました。モデルはAdamオプティマイザと、ウォームアップとコサイン減衰を含む学習率スケジュールで最適化されました。トレーニングはGoogle Cloud TPUで実行され、総計算予算は約1.1e21 FLOPsでした。
機能とパフォーマンス
Gato 1.2Bは、Atariゲームのプレイ、キャプション生成、質問応答、ロボットアームの制御など、600以上のタスクにわたって熟達していることを示しています。評価では、Atariスイートで中央値スコア50%を達成し、以前の汎用モデルを上回りましたが、専門エージェントには及びませんでした。ロボット制御では、ブロック積みや物体配置などの実世界タスクでテストされ、場合によっては専門ポリシーに匹敵する成功率を達成しました。モデルのタスク間での一般化能力は、大規模な事前トレーニングと共有トークン語彙に起因しています。
他のモデルとの比較
Gato 1.2Bは、OpenAIのGPT-3やAnthropicのClaudeなどの他の汎用モデルとよく比較されますが、マルチモーダルおよび身体化されたタスクに焦点を当てている点で異なります。純粋な言語モデルとは異なり、Gatoは視覚データとアクションデータを統合しており、人工知能への一歩となっています。そのパラメータ数はGPT-3の1750億パラメータなど、多くの現代モデルより少ないですが、専門的なトレーニングにより、より狭い範囲のタスクで競争力のあるパフォーマンスを達成しています。
制限と将来の方向性
その多用途性にもかかわらず、Gato 1.2Bには制限があります。長期的なタスクには苦労し、画像とアクションの慎重なトークン化が必要です。トレーニング分布外のタスクではパフォーマンスが低下します。DeepMindの研究者は、モデルのスケールアップと、一般化を改善するためのより多様なデータの組み込みを模索しています。このモデルは、有益な用途と有害な用途の両方に使用できるため、安全性と制御に関する疑問も提起します。将来の作業には、人間のフィードバックからの強化学習とカリキュラム学習の統合が含まれ、その機能を強化します。
受容と影響
Gato 1.2Bは、複数のドメインのための単一エージェントという野心的な目標で、機械学習コミュニティで好意的に受け入れられました。これは、汎用AIへの道筋とマルチモーダルトレーニングの重要性についての議論を引き起こしました。モデルのコードと重みは完全にはオープンソース化されませんでしたが、そのアーキテクチャとトレーニングの詳細は技術レポートで公開されました。これは、DeepMindの後のモデルであるRT-2やSIMAなど、汎用エージェントに関するその後の研究に影響を与えました。