Gaudi は、Intel が設計した特定用途向け集積回路（ASIC）のファミリーであり、ディープラーニングワークロード、特に大規模言語モデルのトレーニングと推論を高速化するために設計されています。そのアーキテクチャは、複数のテンソル処理コアと専用のネットワークオンチップ、高帯域幅メモリ（HBM）を統合したヘテロジニアスなコンピューティングアプローチを強調し、複数のアクセラレータにわたる効率的なスケーリングを可能にします。Gaudi プロセッサは、Nvidia の GPU ベースのアクセラレータや、AMD の Instinct シリーズ、Google Cloud の TPU などの他の AI チップに対する競合製品として位置づけられています。
第 1 世代の Gaudi プロセッサは 2019 年に発表され、Intel が 2019 年に約 20 億ドルで買収したイスラエルの AI チップスタートアップ Habana Labs によって開発されました。第 2 世代の Gaudi 2 は 2022 年に発売され、第 3 世代の Gaudi 3 は 2024 年に発表されました。Intel は Gaudi を AI トレーニングと推論のためのコスト効率の高い代替手段として販売しており、オープンなソフトウェアエコシステムと、PyTorch や TensorFlow などの一般的なフレームワークのサポートに重点を置いています。
歴史
Gaudi の起源は、2016 年に David Dahan、Ran Halutz らによって設立され、イスラエルのカエサリアに本社を置く Habana Labs に遡ります。同社は当初、2018 年にリリースされた Goya 推論チップを開発し、その後 Gaudi によるトレーニングに焦点を移しました。Intel は 2019 年 12 月に Habana Labs を買収し、チームを Data Platforms Group に統合しました。この買収は、AI アクセラレータ市場で競争するという Intel の広範な戦略の一部であり、この市場は Nvidia が支配していました。
アーキテクチャ
Gaudi プロセッサは、スケーラブルなネットワークファブリックと複数のテンソル処理コア（TPC）を組み合わせたヘテロジニアスアーキテクチャを中心に構築されています。各コアは、行列演算とベクトル演算の両方を処理するように設計されており、オンチップメモリと高帯域幅の相互接続が統合されています。この設計により、Gaudi は大規模なモデルのトレーニングと推論に必要な高いスループットと低いレイテンシを実現します。
世代
Gaudi 1
2019 年にリリースされた第 1 世代の Gaudi プロセッサは、32 個の TPC を備え、SynapseAI ソフトウェアスタックと統合されていました。このスタックは、ハードウェアに最適化されたコンパイラ、ランタイム、ライブラリを提供します。SynapseAI は、人気のあるディープラーニングフレームワークと統合されており、開発者が最小限のコード変更で Gaudi 上でモデルを実行できるようにします。
Gaudi 2
2022 年に発売された Gaudi 2 は、第 1 世代と比較してパフォーマンスと効率が大幅に向上しました。これは、より高度なプロセスノードと強化されたメモリ帯域幅を特徴としています。Intel は、Gaudi 2 が特定のワークロードで Nvidia の A100 GPU と比較して競争力のあるパフォーマンスを提供すると主張しました。2023 年には、Intel は Gaudi 2 が大規模言語モデルのトレーニングと推論において 1.5 倍から 2 倍の価格性能比を達成したと主張しました。
Gaudi 3
2024 年に発表された Gaudi 3 は、さらに高いパフォーマンスと効率を提供し、特に生成 AI と大規模言語モデルのワークロードに焦点を当てています。これは、強化されたテンソル処理コア、増加したメモリ容量、改善されたネットワーク接続を特徴としています。Intel は Gaudi 3 を、競争力のある価格で Nvidia の H100 GPU の代替として位置づけています。
ソフトウェアエコシステム
Gaudi プロセッサは、SynapseAI ソフトウェアスタックによってサポートされており、これはハードウェア上でディープラーニングモデルを効率的に実行するためのコンパイラ、ランタイム、ライブラリを提供します。SynapseAI は、PyTorch や TensorFlow などの人気のあるフレームワークと統合されており、開発者は既存のコードを最小限の変更で Gaudi 上で実行できます。Intel はまた、Gaudi をサポートするために、ONNX Runtime や Hugging Face Transformers などのオープンソースツールとの互換性も強調しています。
クラウドサービスと展開
Gaudi プロセッサは、AWS、IBM Cloud、Google Cloud などの主要なクラウドプロバイダーを通じて提供されています。これらのプロバイダーは、Gaudi ベースのインスタンスを提供しており、ユーザーは専用ハードウェアを購入することなく、Gaudi のパフォーマンスを活用できます。Intel はまた、オンプレミス展開やエッジコンピューティング環境向けに Gaudi を販売しています。
市場での位置づけ
Gaudi は、AI アクセラレータ市場で Nvidia の GPU ベースのアクセラレータに対する競争力のある代替手段として位置づけられています。Intel は、Gaudi が特にコスト効率とエネルギー効率の点で優位性を提供すると主張しています。しかし、Nvidia の CUDA エコシステムの成熟度と広範な採用により、Gaudi は市場シェアの面で課題に直面しています。それにもかかわらず、Intel は Gaudi の採用を拡大するために、ソフトウェアエコシステムの改善と新しい世代のリリースを継続しています。
応用
Gaudi プロセッサは、ディープラーニングモデルのトレーニングと推論の両方に使用され、大規模言語モデル、コンピュータビジョン、レコメンデーションシステムに焦点を当てています。これらは、クラウドデータセンター、オンプレミスエンタープライズシステム、エッジ環境に展開されています。主なユースケースには、自然言語処理、画像認識、チャットボットやコンテンツ生成などの生成 AI アプリケーションが含まれます。
評価と批判
業界アナリストは、一般的に Gaudi を Nvidia の信頼できる代替手段と見なしていますが、ソフトウェアの成熟度とエコシステムのサポートは依然として弱いと指摘しています。一部の批評家は、Intel のベンチマーク主張が、実際のパフォーマンスを反映していない特定の構成に基づいていることが多いと指摘しています。さらに、Nvidia の急速なペースの革新と広範な採用により、Gaudi は市場シェアを獲得するのに苦労しています。Intel は、総所有コスト（TCO）と電力効率を強調することでこれに応答しており、大規模展開において Gaudi がより良い価値を提供すると主張しています。
将来の開発
Intel は、Gaudi ファミリーの開発を継続する計画を発表しており、Gaudi 4 は 2025 年に予想されています。同社はまた、Gaudi を Xeon プロセッサおよび oneAPI 統合プログラミングモデルと統合して、ヘテロジニアスコンピューティングを簡素化することに取り組んでいます。2025 年現在、Intel は AI アクセラレータ市場でより大きなシェアを獲得することを目指しており、クラウドとエンタープライズの両セグメントをターゲットにしています。
関連項目
- AI アクセラレータ
- ディープラーニング
- 大規模言語モデル
- Nvidia
- AMD
- AWS Trainium
参考文献
- Intel Newsroom. "Intel Acquires Habana Labs to Expand AI Portfolio." December 16, 2019.
- Habana Labs. "Gaudi Training Processor." 2019.
- Intel. "Intel Gaudi 2 AI Accelerator." 2022.
- Intel. "Intel Gaudi 3 AI Accelerator." 2024.
- Cloud provider documentation for Gaudi instances (AWS, IBM Cloud, Google Cloud).