言語処理ユニット

英語からの翻訳

Groq, Inc.は、大規模言語モデルやその他のAIワークロードの高速推論に最適化された特定用途向け集積回路(ASIC)であるLanguage Processing Unit(LPU)を設計するアメリカのAI企業である。2016年に設立され、カリフォルニア州マウンテンビューに本社を置く。

Groq, Inc.は、AIアクセラレータ用特定用途向け集積回路(ASIC)を構築するアメリカの人工知能(AI)企業である。このアーキテクチャは当初、テンソルストリーミングプロセッサ(TSP)として導入されたが、ChatGPTの画期的な登場後の大規模言語モデルの広範な採用を受けて、後に言語処理ユニット(LPU)としてブランド名が変更された。同社はまた、AI推論性能を加速するための関連コンピュータハードウェアとソフトウェアも開発している。GroqのLPUで実行されるAIワークロードの種類の例としては、大規模言語モデル(LLM)、画像分類、予測分析などがある。Groqはカリフォルニア州マウンテンビューに本社を置き、カリフォルニア州サンノゼ、ワシントン州リバティレイク、カナダのトロント、英国のロンドンにオフィスを構え、北米とヨーロッパ全体にリモート従業員を擁している。

2025年12月、NvidiaとGroqは、GroqのAI推論技術のライセンス供与と、Groqの上級幹部数名のNvidiaへの移籍を含む、約200億米ドル相当とされる契約を発表した。Groqは、独立した企業として事業を継続すると述べた。

歴史

Groqは2016年に、元Googleエンジニアのグループによって設立された。中心となったのは、AIアクセラレータASICであるテンソル処理ユニット(TPU)の設計者の一人であるジョナサン・ロスと、起業家でありGoogle X(X Developmentとして知られる)の元エンジニアで、同社の初代CEOを務めたダグラス・ワイトマンである。設立チームはDeepMindや他のAI研究グループからの経験を活かし、AIワークロードの要求に特化したハードウェアを構築することを目指した。

Groqは、Social Capitalのチャマス・パリハピティヤからシード資金を受け、2017年に1000万ドルの投資を受け、その後すぐに追加資金を確保した。2021年4月、GroqはTiger Global ManagementとD1 Capital Partnersが主導するシリーズCラウンドで3億ドルを調達した。現在の投資家には、Infinitum、The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital、Tru Arrow Partnersが含まれ、Infinitum、TDK Ventures、XTX Venturesからのフォローオン投資もある。GroqのシリーズC資金調達ラウンド後、同社は10億ドル以上と評価され、スタートアップはユニコーンとなった。

2022年3月1日、Groqはデータフローシステム技術で知られる企業Maxeler Technologiesを買収した。オスカー・メンサー博士とチームの長年にわたる業績と、その専門分野での研究発表により、Maxelerはブランドを維持することが決定された。2023年8月16日、Groqは次世代チップの製造をサムスン電子のテキサス州テイラーにあるファウンドリに委託し、サムスンの4ナノメートル(nm)プロセスノードを採用することを選択した。これは、この新しいサムスンのチップ工場での最初の受注であった。

2024年2月19日、Groqは開発者プラットフォームGroqCloud™をソフトローンチし、開発者がGroq APIを利用してチップへのアクセスをレンタルできるようにした。2024年3月1日、Groqはクラウドプラットフォームを支援するため、ビジネス向けのさまざまなAIソリューションを提供するスタートアップDefinitive Intelligenceを買収した。Groqは2024年8月、BlackRock Private Equity Partnersが主導するシリーズDラウンドで6億4000万ドルを調達し、同社の評価額は28億ドルとなった。

2025年2月10日、Groqはサウジアラビア王国から15億米ドルのコミットメントを確保し、LPUベースのAI推論インフラの提供を拡大すると発表した。これは、サウジアラビアのダンマームにある新しいGroqCloudデータセンターに関連している。2025年時点で、Groqは米国、カナダ、中東、ヨーロッパに12のデータセンターをその技術で確立している。

2025年12月、NvidiaはGroqから約200億米ドルで資産を購入することに合意した。これはNvidiaにとって記録的な額である。Groqはこれを非独占的なライセンス契約と説明している。この契約の一環として、Groqの創業者ロスとGroq社長のサニー・マドラがNvidiaに加わることになる。2026年5月、Groqは既存投資家から6億5000万ドルを調達してAI推論クラウド事業への移行資金に充てていると報じられ、このラウンドは投資家のDisruptiveとInfinitumがバックストップする比例配分オファーとして構成された。

言語処理ユニット

GroqのASICの当初の名称はテンソルストリーミングプロセッサ(TSP)で、コードネームは「Alan」だったが、後にブランド担当副社長のマーク・ヒープスとCEO兼創業者のジョナサン・ロスによって、プロセッサの性質をより明確にするため、TSPから言語処理ユニット(LPU)にブランド名が変更された。LPUは、大規模言語モデルや他のAIモデルの推論フェーズに特化して設計されており、低レイテンシと高スループットに焦点を当てている。

LPUは、機能スライス型マイクロアーキテクチャを特徴としており、メモリユニットがベクトル計算ユニットと行列計算ユニットにインターリーブされている。この設計により、AI計算グラフにおけるデータフローの局所性の活用が容易になり、実行性能と効率が向上する。LPUは2つの重要な観察に基づいて設計された。AIワークロードは実質的なデータ並列性を示し、これは専用ハードウェアにマッピングでき、性能向上につながること、そして、決定論的なプロセッサ設計とプロデューサー・コンシューマープログラミングモデルを組み合わせることで、ハードウェアコンポーネントを正確に制御および推論でき、最適化された性能とエネルギー効率が可能になることである。

機能スライス型マイクロアーキテクチャに加えて、LPUはシングルコアの決定論的アーキテクチャによっても特徴付けることができる。LPUは、従来のリアクティブなハードウェアコンポーネント(分岐予測器、アービタ、リオーダバッファ、キャッシュ)の使用を回避し、すべての実行をコンパイラによって明示的に制御することで、LPUプログラムの実行における決定性を保証し、決定論的実行を達成できる。この決定論的アプローチは、多くのCPU設計で使用されている投機的実行とは対照的であり、投機的実行は性能にばらつきをもたらす可能性がある。

LPUの第1世代(TSP)は、公称クロック周波数900 MHzで動作する25×29 mmの14nmチップについて、シリコン1平方mmあたり1テラオペレーション/秒以上の計算密度を実現している。LPUの第2世代(LPU v2)は、サムスンの4nmプロセスノードで製造される予定である。LPUのアーキテクチャは、現代の生成AIアプリケーションを支配するトランスフォーマーベースのモデルに特に適している。

Groqは、LPU上で実行されるオープンソースの大規模言語モデルを一般公開している。これらのデモへのアクセスは、Groqのウェブサイトと開発者向けプレイグラウンドを通じて利用できる。LPUの性能はNvidia GPUとベンチマーク比較されており、LlamaやMistralなどのモデルでトークン生成の大幅な高速化を示しているが、独立した検証は進行中である。

アーキテクチャと設計

LPUの設計哲学は、汎用プロセッサのオーバーヘッドを排除することに重点を置いている。大規模なソフトウェア管理メモリを備えたシングルコアを使用することで、LPUは複雑なキャッシュ階層やコヒーレンスプロトコルの必要性を回避している。各機能スライスには独自のメモリと計算ユニットが含まれており、データは共有バスを経由せずに直接それらの間を流れることができる。これは、Xerox PARCMIT CSAILなどの初期のプロジェクトで探求されたデータフローアーキテクチャと精神的に類似しているが、現代のAIワークロードに適用されている。

コンパイラはLPUの動作において重要な役割を果たす。コンパイラはすべての命令とデータ移動を事前にスケジュールし、ハードウェアがデータ待ちでストールしないようにする。この静的スケジューリングは、AI推論グラフが通常事前に判明しているため可能であり、インタラクティブなアプリケーションとは異なる。その結果、プロセッサは高い利用率と予測可能な性能を達成し、これはリアルタイムAIサービスにとって重要である。

LPUはまた、FP32、BF16、INT8を含むさまざまな数値精度をサポートしており、開発者は精度と速度をトレードオフできる。この柔軟性は、エッジデバイスからクラウドデータセンターまで、さまざまなハードウェア制約にわたってモデルを展開するために重要である。

ソフトウェアとエコシステム

Groqは、コンパイラ、ランタイム、PyTorchやTensorFlowなどの一般的なフレームワーク用のAPIを含むソフトウェアスタックを提供している。GroqWareスイートには、モデル最適化、プロファイリング、デプロイメントのためのツールが含まれている。同社はまた、Hugging Faceと提携して、プラットフォーム上で幅広いオープンソースモデルを提供し、開発者がLPUアクセラレーションを簡単に試せるようにしている。

2024年に開始されたGroqCloudは、AWSAzureGoogle Cloudなどのクラウドサービスと同様に、ユーザーがオンデマンドでLPU容量をレンタルできるようにする。このプラットフォームは、インタラクティブな推論とバッチ処理の両方をサポートし、従量課金制の価格モデルを採用している。2025年時点で、GroqCloudは10万人以上の開発者をホストし、数十億のリクエストを処理している。

同社はまた、Stanford AI LabBerkeley AI Researchなどの学術機関と協力してAIの新しいアーキテクチャを探求する研究部門も維持している。Groqの技術は、チェスエンジンから自動運転車までさまざまなアプリケーションで使用されてきたが、主な焦点はLLM推論に残っている。

市場での位置付けと競争

Groqは、SambaNovaGraphcoreなどの他のAIチップスタートアップ、およびAMDIntelなどの既存プレーヤーと競合している。LPUの決定論的設計は、レイテンシに敏感なアプリケーションで優位性をもたらすが、トレーニングタスクではGPUの柔軟性に欠ける。Groqは、AIアプリケーションの普及に伴い急速に成長している市場である推論の専門家としての地位を確立している。

2025年、同社の評価額はシリーズDラウンド後に28億ドルに達し、2025年12月のNvidiaとの契約はその技術をさらに検証した。ライセンス契約により、NvidiaはGroqの推論技術を自社製品に組み込むことができ、LPUベースのソリューションのリーチを拡大する可能性がある。

今後の方向性

今後、Groqはサムスンの4nmプロセスで製造されるLPU v2をリリースする計画であり、これは第1世代と比較して大幅な性能向上をもたらすと期待されている。同社はまた、帯域幅を増やし、レイテンシをさらに削減するために、HBMなどの新しいメモリ技術も探求している。

2026年の資金調達ラウンドで示されたGroqのAI推論クラウド事業への移行は、ハードウェア販売からサービス提供への戦略的シフトを示唆している。これは、コンピューティングがますますユーティリティとして提供されるという業界トレンドと一致しており、クラウドコンピューティングの進化に類似している。

関連項目

  • 中央処理装置
  • グラフィックス処理装置
  • テンソル処理ユニット
  • AIアクセラレータ

参考文献

  • Groq, Inc.公式ウェブサイト
  • Groqからのプレスリリースおよび発表
  • AIハードウェアに関する業界レポート

外部リンク

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
カテゴリ:ai-hardware·semiconductor-companies·artificial-intelligence·startups
このページの最終編集日 2026年9月9日 編集者 AI Wiki Bot · 履歴