2022年、カリフォルニア州メンロパークに本社を置くアメリカの多国籍テクノロジー企業であるMeta Platforms, Inc.は、人工知能スーパーコンピューティングへの10億ドルの大規模投資を発表しました。この取り組みは、仮想現実および拡張現実技術にまたがる相互接続されたデジタルエコシステムであるメタバースの開発に向けた、同社のより広範な戦略的転換の一環でした。この投資は、高度な機械学習ワークロードをサポートし、自然言語処理やコンピュータビジョンなどの分野での研究を加速するために設計された大規模AIスーパーコンピュータであるResearch SuperCluster（RSC）の構築と展開に焦点を当てていました。
2021年にFacebook, Inc.から社名を変更したMetaは、長年にわたりAI機能を拡大してきました。同社の研究開発費は2022年に353億ドルに達し、世界で3番目に大きな研究開発費の支出者となりました。スーパーコンピュータへの投資はこの支出の重要な構成要素であり、AI分野で他の主要テクノロジー企業と競争するというMetaの野心を反映していました。RSCは、数兆のパラメータを持つモデルを訓練することを目的としており、Facebook、Instagram、WhatsAppを含むMetaのプラットフォーム全体でより高度なアプリケーションを可能にすることを意図していました。
背景と戦略的コンテキスト
MetaのAIスーパーコンピューティングへの転換は、人工知能における業界競争の激化の中で起こりました。OpenAI、Google DeepMind、Anthropicなどの企業は、大規模言語モデルと生成AIで急速な進歩を遂げていました。Metaは、膨大なユーザーデータと計算リソースを活用して、ユーザーエンゲージメント、広告、仮想現実体験を強化できる独自のAIシステムを開発しようとしました。この投資はまた、AIが没入型でインタラクティブなデジタル環境の作成において中心的な役割を果たすであろう同社のメタバースビジョンとも一致していました。
この発表は、内部告発者のリークや規制上の課題を含む、Metaに対する激しい監視の期間の後に行われました。同社はまた、誤情報やプライバシー問題への対応について批判に直面していました。AIインフラストラクチャに投資することで、Metaは中核となるソーシャルメディア事業が成熟市場で飽和状態に直面している中でも、技術革新と長期的成長へのコミットメントを示すことを目指しました。
Research SuperCluster（RSC）
Metaの主要なAIスーパーコンピューティングプロジェクトはResearch SuperClusterであり、同社は2021年に開発を開始し、2022年1月に発表しました。RSCは、1兆を超えるパラメータを持つモデルを訓練する能力を持つ、世界最速のAIスーパーコンピュータの1つになるように設計されました。このシステムは、高帯域幅ネットワークを介して相互接続された数千のNVIDIA A100グラフィックスプロセッシングユニット（GPU）を利用し、効率的な並列処理を可能にしました。
RSCは段階的に構築され、最初のフェーズは2022年初頭に完了しました。Metaは、初期構成には6,080基のGPUが含まれ、その後のフェーズで16,000基に拡張されたと報告しました。スーパーコンピュータは米国のデータセンターに設置され、他の地域には追加施設の計画がありました。Metaは、RSCが自然言語処理、コンピュータビジョン、音声認識を含むさまざまなAIタスクや、メタバース用のAIシステムの開発に使用されると述べました。
RSCによって対処された主要な技術的課題の1つは、大規模データセットの処理でした。Metaのプラットフォームは、テキスト、画像、動画を含む膨大な量のユーザー生成コンテンツを生成します。スーパーコンピュータはこれらのデータセットを効率的に処理するように設計され、人間らしい応答を理解して生成できるモデルの訓練を可能にしました。Metaはまた、訓練中のユーザーデータを保護するための対策を講じ、RSCの設計におけるセキュリティとプライバシーの重要性を強調しました。
投資とインフラストラクチャ
AIスーパーコンピューティングへの10億ドルの投資は、データセンター、ネットワーキング、その他のインフラストラクチャへの投資も含むMetaのより広範な設備投資プログラムの一部でした。同社の2022年の総設備投資は約314億ドルであり、コンピューティング容量の積極的な拡大を反映していました。AIスーパーコンピュータへの投資は、サードパーティのクラウドプロバイダーへの依存を減らし、社内能力を構築するための戦略的な動きと見なされました。
Metaが独自のスーパーコンピューティングインフラストラクチャに投資する決定は、Amazon Web ServicesやMicrosoft Azureなどの一部の競合他社がクラウドベースのAIサービスを提供するアプローチとは対照的でした。RSCを構築することで、MetaはAI開発パイプラインをより詳細に制御し、外部プロバイダーからコンピューティングパワーをレンタルするコストを削減することを目指しました。同社はまた、RSCを学術機関や他の組織との研究協力をサポートするために使用する計画を立てていました。
この投資は、AIコンピューティングに対する世界的な需要が急速に高まっている時期に発表されました。Large language modelとGenerative AIアプリケーションの普及により、高性能コンピューティングリソースの不足が生じていました。Metaの投資は、このトレンドを活用する立場に同社を置き、将来的には他の企業にAI機能を提供する可能性がありました。
技術仕様とパフォーマンス
MetaはRSCに関する限られた技術的詳細を開示しましたが、同社はスーパーコンピュータが混合精度コンピューティングで5エクサフロップスを超えるパフォーマンスレベルを達成することを示しました。この数値が実現されれば、RSCは世界で最も強力なAIシステムの1つに位置づけられます。スーパーコンピュータは、NVIDIA GPUとMetaが独自に設計したハードウェア（特定のAIワークロード用のアクセラレータを含む）の組み合わせを利用しました。
RSCのアーキテクチャは階層設計に基づいており、GPUのクラスターが高速インターコネクトを介して接続されていました。Metaは、モデル並列処理として知られる技術を採用し、大規模モデルを複数のGPUに分散して効率的な訓練を可能にしました。同社はまた、パフォーマンスを最適化し、訓練時間を短縮するための専門的なソフトウェアフレームワークを開発しました。
ベンチマークテストでは、MetaはRSCが以前のシステムと比較して大幅な改善を達成したと報告しました。例えば、同社はRSCが1,750億パラメータを持つ大規模言語モデルを、以前のインフラストラクチャでは数ヶ月かかっていたのに対し、数週間で訓練できると主張しました。これらのパフォーマンス向上は、ネットワーキング、ストレージ、冷却技術の進歩によるものとされました。
アプリケーションとユースケース
RSCは、Metaの製品とサービス全体で幅広いAIアプリケーションをサポートすることを目的としていました。Machine learningの領域では、スーパーコンピュータはコンテンツレコメンデーション、スパム検出、翻訳のためのモデルを開発するために使用されました。Metaはまた、トランスフォーマーベースのモデルを含むDeep learningおよびNeural networkアーキテクチャの研究にRSCを使用する計画を立てていました。
主要なアプリケーションは、AIアシスタントと会話エージェントの開発でした。Metaは、自然言語でユーザーのクエリを理解して応答できるシステムを作成し、それらをWhatsAppやMessengerなどのプラットフォームに統合する可能性を目指しました。同社はまた、ユーザーがデジタルアバターやオブジェクトと対話できるメタバース内の仮想環境を生成するためのAIの使用を模索しました。
内部プロジェクトに加えて、MetaはRSCが学術研究に利用可能になることを示しました。同社は、Stanford AI LabやMIT CSAILなどの大学や研究機関と協力してきた歴史がありました。スーパーコンピュータへのアクセスを提供することで、MetaはAI分野を前進させ、トップタレントを引き付けることを望みました。
業界への影響と比較
MetaのAIスーパーコンピューティングへの投資は、テクノロジー企業が大規模なAIインフラストラクチャを構築するというより広範なトレンドの一部でした。OpenAIはMicrosoft (AI)と提携してAzureスーパーコンピュータを開発し、Google DeepMindはGoogleのテンソルプロセッシングユニット（TPU）に依存していました。Metaのアプローチは、その規模と独自ハードウェアへの多額の投資をいとわない姿勢で注目に値しました。
RSCは、日本のFugakuシステムや米国のSummitシステムなど、他の主要なAIスーパーコンピュータと比較されました。しかし、AI固有のワークロードへのMetaの焦点は、汎用スーパーコンピュータとは一線を画していました。同社の投資はまた、AppleやAmazon Web Servicesなどの企業が同様の投資を行っている中で、テクノロジーセクターにおけるAIの重要性の高まりを浮き彫りにしました。
Metaの発表は、業界アナリストからさまざまな反応を受けました。一部は同社の野心と技術的能力を賞賛しましたが、他の一部は高コストと潜在的なリターンを疑問視しました。この投資はAIの未来への賭けと見なされ、Metaのビジネスモデルを変革し、新しい収益源を生み出す可能性がありました。
課題と批判
野心的な目標にもかかわらず、MetaはRSCの開発においていくつかの課題に直面しました。スーパーコンピュータは、かなりのエンジニアリング専門知識を必要とし、GPUやその他のコンポーネントのサプライチェーン制約に直面しました。同社はまた、大規模なAIトレーニングはエネルギー集約的であるため、エネルギー消費と環境への影響に関する懸念に対処する必要がありました。
批評家は、MetaのAI投資が競合他社に匹敵する画期的な製品をまだ生み出していないと指摘しました。同社のAI研究は広範であるものの、コンテンツモデレーションや誤情報検出などの分野で挫折に直面していました。さらに、RSCがサポートすることを意図していたメタバースビジョンは広く採用されておらず、投資の長期的な実行可能性について疑問が生じていました。
Metaはまた、ユーザーデータに関するAIモデルの訓練能力に影響を与える可能性のあるデータ慣行に関する規制上の監視に直面しました。同社はさまざまな管轄区域でプライバシー違反で罰金を科されており、新しい規制によりデータへのアクセスが制限される可能性がありました。これらの課題は、MetaのAIスーパーコンピューティング戦略に関連するリスクを浮き彫りにしました。
将来の見通し
2023年現在、MetaはAI機能を拡大し続けており、RSCは将来の開発の基盤として機能しています。同社は、スーパーコンピュータの容量を増やし、独自設計のチップなどの新しいハードウェアを統合する計画を発表しました。Metaはまた、AIエコシステムを強化するために他の組織とのパートナーシップを模索しました。
AIスーパーコンピューティングへの投資は、Metaのビジネスに長期的な影響を与えると予想されました。同社は、AIを使用して広告ターゲティングを改善し、ユーザーエクスペリエンスを向上させ、メタバース向けの新製品を開発することを目指しました。しかし、AIの状況が急速に進化し続ける中で、これらの取り組みの成功は不確実なままでした。
MetaのAIスーパーコンピューティングへの10億ドルの投資は、人工知能の進歩への重要なコミットメントを表していました。同社は課題に直面しましたが、RSCはMetaをAIインフラストラクチャ分野の主要プレーヤーとして位置づけました。この投資の長期的な影響は、Metaが計算能力を革新的なアプリケーションと持続可能な成長に変換できるかどうかに依存するでしょう。
結論
Metaの2022年のAIスーパーコンピューティングへの10億ドルの投資の発表は、同社の歴史における極めて重要な瞬間を示しました。Research SuperClusterは、高度な機械学習とメタバースのイニシアチブをサポートするように設計されており、Metaの戦略的優先事項を反映していました。技術的、規制上、市場の課題にもかかわらず、この投資はテクノロジー業界におけるAIの重要性の高まりと、イノベーションの最前線に留まるというMetaの決意を強調しました。