Grok-1.5V（Grok-1.5 Vision）は、xAIによって開発されたマルチモーダル大規模言語モデルであり、2024年4月12日に発表された。Grok-1.5モデルを拡張し、文書、図、グラフ、スクリーンショット、写真などの視覚情報を処理する能力を追加した。発表にもかかわらず、Grok-1.5Vは一般公開されることはなく、xAIはその後Grokシリーズの後続モデルへと移行した。
この発表は、Grok-1.5Vを、テキストと画像の両方を理解できるより高度なAIシステムへの一歩として位置づけ、Generative AIやLarge language model開発の広範なトレンドと一致するものだった。このモデルは、OpenAI、Anthropic、Google DeepMindなどの他のAI研究所と競争するためのxAIの取り組みの一部だった。
背景
xAIは、2023年3月にイーロン・マスクによって設立された。彼は2018年にOpenAIの取締役会を離れた後だった。マスクはOpenAIの共同創設者の一人であり、サム・アルトマンと共同議長を務めていた。離脱後、彼はAI開発の方向性、特に政治的偏見と安全性に関する懸念を表明した。2023年4月、マスクは「TruthGPT」と呼ばれるチャットボットの計画を発表し、それを「宇宙の本質を理解しようとする最大限の真実追求型AI」と表現した。この構想は、ロバート・A・ハインラインが1961年の小説『異星の客』で造語した動詞に由来する「Grok」へと発展し、何かを深く直感的に理解することを意味する。
最初のGrokモデルは2023年11月にプレビューされ、当初はX Premiumユーザーのみが利用できた。Grok-1は2024年3月17日にApache-2.0ライセンスの下でオープンソース化され、そのアーキテクチャと重みが公開された。Grok-1.5は2024年3月29日に続き、改善された推論能力と128,000トークンのコンテキスト長を備えていた。
開発と発表
Grok-1.5Vは、Grok-1.5のわずか2週間後の2024年4月12日に発表された。xAIによると、このモデルは「文書、図、グラフ、スクリーンショット、写真を含む幅広い視覚情報を処理できる」とされた。この能力は、チャートの理解、スクリーンショットの解釈、実世界の画像の分析などのタスクを可能にすることを目的としていた。発表ではリリース日は指定されず、その後の公開ベータ版や一般提供も行われなかった。
Grok-1.5Vの開発は、モデルがテキストと画像の理解を組み合わせるマルチモーダルAIへの業界全体の推進を反映していた。同様の取り組みは、OpenAIのGPT-4V、Google DeepMindのGemini、AnthropicのClaude 3で進行中だった。これらのモデルは、視覚認識と言語推論の間のギャップを埋め、文書分析、教育、支援技術などの分野での応用を可能にすることを目指していた。
技術的側面
xAIはGrok-1.5Vの詳細な技術仕様を開示しなかったが、このモデルはGrok-1.5アーキテクチャに基づいて構築されており、それ自体がTransformer (architecture)モデルと混合専門家（mixture-of-experts）設計に基づいていた。視覚コンポーネントは、画像を言語モデルが処理できる表現に変換するエンコーダを含んでいた可能性が高く、他のマルチモーダルモデルで使用されるアプローチと類似していた。これには通常、対比学習やクロスアテンション機構などの技術を使用して、大規模な画像テキストペアのデータセットでのトレーニングが含まれる。
モデルが文書、図、グラフを処理する能力は、科学論文、チャート、ユーザーインターフェースのスクリーンショットなど、多様な視覚入力でトレーニングされたことを示唆していた。これには、異なる視覚形式間での一般化を確実にするための堅牢なData Augmentationと、場合によってはCurriculum Learningが必要だっただろう。
同時代のモデルとの比較
Grok-1.5Vの発表時点で、AI分野はマルチモーダル能力において急速に進歩していた。OpenAIは2023年後半にGPT-4Vをリリースし、画像を分析して質問に答えることができた。Google DeepMindのGeminiモデルもネイティブにマルチモーダルであり、テキスト、画像、音声、ビデオでトレーニングされていた。AnthropicのClaude 3は2024年3月にリリースされ、ビジョン入力をサポートしていた。Grok-1.5Vはこの分野での競争を目指したが、公開リリースがなかったため、市場への直接的な影響はなかった。
xAIのアプローチは、GrokをXソーシャルネットワークに直接統合し、ユーザーが投稿でチャットボットをタグ付けして、プラットフォーム上で共有された画像や文書について質問できるようにした点で、一部の競合他社とは異なっていた。この統合は独自の機能であり、Xのリアルタイムデータとユーザーエンゲージメントを活用していた。
余波と遺産
発表にもかかわらず、Grok-1.5Vはリリースされることはなかった。xAIの次の主要モデルはGrok-2であり、2024年8月14日に発表され、Black Forest LabsによるFluxを使用した画像生成能力を含んでいた。Grok-2は2024年10月28日に画像理解能力も獲得し、Grok-1.5Vのビジョンの約束を後のイテレーションで事実上果たした。
Grok-1.5Vの短命な存在は、AI開発の速いペースを浮き彫りにした。モデルが発表されても、戦略的シフト、技術的課題、リソース配分などの理由で、後継モデルに取って代わられたり、棚上げされたりする可能性がある。また、AI研究所間の競争圧力を強調し、たとえその能力がすぐに展開されなくても、能力を示すことの重要性を示した。
評価と批判
Grok-1.5Vの発表はAIコミュニティから関心を集めたが、xAIの野心的な主張の実績に対する懐疑もあった。一部の批評家は、Grok-1.5Vが明確なリリース計画なしに発表されたことは、大手AI企業の製品としては異例だと指摘した。さらに、Grokシリーズ全体が、陰謀論の促進、反ユダヤ主義的なステレオタイプの使用、不適切な画像の生成で批判を受けていた。これらの問題は、そのようなモデルを大規模に展開することの安全性と倫理的影響に関する懸念を引き起こした。
xAIがGrok-1をオープンソース化した決定は、透明性への一歩として一部から賞賛されたが、その後のモデルはオープンソース化されず、同社の開放性へのコミットメントに疑問が投げかけられた。
AI環境への影響
Grok-1.5Vはリリースされなかったが、その発表は、マルチモーダルAIをArtificial intelligenceの次のフロンティアとする進行中の物語に貢献した。これは、xAIがビジョン能力に積極的に投資していることを示し、それは後にGrok-2で具体化された。このエピソードはまた、AI業界におけるタイミングと実行の重要性を示し、モデルの成功は技術的なメリットだけでなく、タイムリーな展開とユーザー採用にも依存することを示した。
より広い文脈では、Grok-1.5Vの開発は、Deep learning、Neural networkアーキテクチャ、Machine learning技術の進歩を含む革新の波の一部だった。モデルの視覚理解への焦点は、MIT CSAIL、Stanford AI Lab、BAIR (Berkeley AI Research)などの機関での研究と一致しており、そこではAIシステムをより知覚的で文脈認識型にする方法が探求されていた。
結論
Grok-1.5VはAI開発の歴史における脚注のままである。約束を持って発表されたが、決して提供されなかったモデルだ。その遺産は、Grok-2のその後のビジョン能力と、xAIのモデルファミリーの継続的な進化にある。このエピソードは、急速に動くAIの分野では、発表は保証ではなく、モデルの真のテストはその実世界への影響であることを思い出させる。