Gemini 1.5 001は、Google DeepMindによって開発された大規模言語モデルのGemini 1.5ファミリーの最初の安定版リリースです。このファミリーは2024年2月15日に発表され、001という名称は、その構成モデルの初期APIバージョンを指しています。これらのモデルは生成AIの例であり、人工知能の一分野として、テキスト、画像、音声、動画の入力を受け付け、Transformerアーキテクチャと混合専門家（mixture-of-experts）設計に基づいて構築されています。
Gemini 1.5ファミリーは、Chatbot ArenaやArtificial Analysisなどの公開LLMリーダーボードに登場し、そのバリアントは他のモデルとベンチマークされました。001バージョンは、Google AI StudioとGoogle CloudのVertex AIプラットフォームを通じて開発者に提供された最初のモデルです。
背景とリリース
Google DeepMindは、2024年2月15日に、以前のGemini 1.0モデルのアップグレードとしてGemini 1.5を発表しました。初期リリースには、フラッグシップモデルであるGemini 1.5 Proが含まれ、後に、高負荷タスク向けに最適化された軽量で高速なバリアントであるGemini 1.5 Flashが追加されました。モデル名の「001」という接尾辞（例：gemini-1.5-pro-001、gemini-1.5-flash-001）は、ファミリー内の各モデルの最初の安定版を識別します。これらのバージョンは、Google AI StudioとVertex AIを通じて開発者やエンタープライズ顧客に提供され、価格はトークン使用量に基づいていました。
アーキテクチャ
Gemini 1.5モデルは、混合専門家ニューラルネットワーク設計を備えたTransformerベースのアーキテクチャを使用しており、各トークンに対してパラメータのサブセットのみをアクティブ化することで効率を向上させています。最大100万トークンのコンテキストウィンドウをサポートし、長いドキュメント、コードベース、動画の処理を可能にします。モデルは、さまざまなデータタイプに対して深層学習技術を使用してトレーニングされ、テキスト、画像、音声、動画にわたるタスクを実行できます。アーキテクチャには、現代の大規模言語モデルで一般的なコンポーネントであるマルチヘッドアテンションと位置エンコーディングが含まれています。
バリアント
001リリースには、公開ベンチマークスナップショットに3つの主要なバリアントが含まれています：
- Gemini 1.5 Pro：複雑な推論とマルチモーダルタスク向けに設計されたフラッグシップモデル。
- Gemini 1.5 Flash：大規模アプリケーション向けの、より高速でコスト効率の高いモデル。
- Gemini 1.5 Flash-Lite：後に導入された軽量バリアントで、さらに低いレイテンシーとコスト向けに最適化されています。
これらのバリアントは同じ基盤アーキテクチャを共有していますが、パラメータ数と推論速度が異なります。FlashおよびFlash-Liteモデルは、応答時間とコストが重要となるユースケース向けに設計されています。
推論とデプロイメント
開発者は、Google AI StudioとVertex AIを通じてGemini 1.5 001モデルにアクセスできます。推論中は、top-kサンプリング、top-pサンプリング、温度などの生成パラメータを調整して、出力のランダム性を制御できます。モデルは、ビームサーチによる決定論的デコードもサポートしています。APIエンドポイントはGoogle Cloudインフラストラクチャ上でホストされ、モデルは低レイテンシーアプリケーション向けのストリーミング応答をサポートしています。
パフォーマンスと評価
Gemini 1.5 001モデルは、Chatbot ArenaやArtificial Analysisなどの公開リーダーボードで評価され、OpenAI、Anthropicなどの組織のモデルと競合しました。モデルは、推論、コーディング、マルチモーダルベンチマークで強力なパフォーマンスを示し、機械学習の進歩を反映しています。100万トークンのコンテキストウィンドウは、多くの同時代のモデルと差別化する注目すべき機能でした。
レガシー
001バージョンは、後に、パフォーマンスを向上させレイテンシーを低減した002シリーズを含む更新バージョンに引き継がれました。Gemini 1.5ファミリー自体は、2024年後半にGemini 2.0ファミリーに引き継がれました。更新にもかかわらず、001バージョンは、安定した長期的なAPIエンドポイントを必要とする開発者向けに引き続き利用可能です。