Graphcore Limitedは、人工知能および機械学習のワークロード向けアクセラレータを設計するイギリスの半導体企業である。同社は、外部メモリに依存する従来のグラフィックス処理装置（GPU）とは異なり、機械学習モデル全体をチップ自体に保持する超並列プロセッサであるインテリジェンス・プロセッシング・ユニット（IPU）で最もよく知られている。Graphcoreの技術はニューラルネットワークのトレーニングと推論の両方を対象としており、AIコンピューティングにおいてGPUベースのシステムに代わる選択肢を提供することを目指している。
2016年に設立されたGraphcoreは、複数の資金調達ラウンドを通じて急速に成長し、2018年12月までに評価額17億ドルに達した。同社の製品には、Colossus GC2およびGC200プロセッサが含まれ、クラウドおよびエンタープライズ環境で使用されてきた。2024年7月、ソフトバンクグループはGraphcoreを約5億ドルで買収することに合意したが、この取引はイギリスで規制審査中であった。
歴史
Graphcoreは2016年に、半導体業界のベテランであるサイモン・ノウルズとナイジェル・トゥーンによって設立された。ノウルズは以前、NVIDIAに買収されたベースバンドプロセッサ企業であるIceraを共同設立しており、トゥーンは複数のチップスタートアップを率いてきた。同社は、当時GPUが支配していた機械知能向けプロセッサの設計に乗り出した。
2016年秋、Graphcoreはロバート・ボッシュ・ベンチャー・キャピタルが主導する最初の主要な資金調達ラウンドを確保した。他の投資家には、サムスン、アマデウス・キャピタル・パートナーズ、C4ベンチャーズ、ドレイパー・エスプリ、ファウンデーション・キャピタル、ピタンゴが含まれていた。この初期の支援により、同社はIPUアーキテクチャとソフトウェアスタックの開発を開始することができた。
2017年7月には、アトミコが主導するシリーズBラウンドが続き、数ヶ月後にはセコイア・キャピタルからの追加資金が得られた。2018年12月までに、Graphcoreは評価額17億ドルで2億ドルのシリーズDラウンドを完了し、「ユニコーン」（評価額10億ドルを超える非公開企業）となった。このラウンドの投資家には、マイクロソフト、サムスン、デル・テクノロジーズが含まれていた。
2019年11月、GraphcoreはC2 IPUカードがマイクロソフト・アジュールでプレビュー利用可能になったことを発表し、重要なクラウド展開を示した。同社は製品ラインとパートナーシップを拡大し続けたが、NVIDIAが支配する競争の激しい市場でも課題に直面した。
2023年初頭、メタ・プラットフォームズはGraphcoreからAIネットワーキング技術チームを買収した。これは戦略的な売却と見なされた。財務条件は開示されなかったが、これによりGraphcoreは中核となるプロセッサ事業に集中できるようになった。
2024年7月、ソフトバンクグループはGraphcoreを約5億ドルで買収することに合意した。この取引は、半導体セクターにおける国家安全保障上の懸念を反映して、イギリス商務省の投資セキュリティ部門による審査中であった。この買収は、Graphcoreに開発努力を継続するための追加リソースを提供することが期待されていた。
製品と技術
Graphcoreの主要な製品ラインは、AIワークロード向けにゼロから設計されたプロセッサであるインテリジェンス・プロセッシング・ユニット（IPU）に基づいている。IPUアーキテクチャはGPUとは大きく異なる。各コアが独自のローカルメモリを持つ超並列コアアレイを使用し、機械学習モデル全体がオンチップに格納される。この設計は、従来のアーキテクチャにおける主要なボトルネックであるメモリとプロセッサ間のデータ移動の必要性を減らす。
最初のIPUチップであるColossus GC2は、2017年7月に発表された。これは16nmの超並列・混合精度浮動小数点プロセッサであり、2018年に利用可能となった。GC2は、Graphcore C2 IPUとして知られる単一のPCI Expressカードに2つのチップがパッケージされた。このカードは、TensorFlowなどの標準的な機械学習フレームワークと組み合わせてGPUと同じ役割を果たすように設計された。このデバイスは、従来のキャッシュ階層ではなく、スクラッチパッドメモリに依存して性能を発揮した。
2020年7月、GraphcoreはTSMCの7nm FinFET製造プロセスを使用して構築された第2世代プロセッサGC200を発表した。GC200は、590億トランジスタ、823平方ミリメートルの集積回路であり、1,472の計算コアと900メガバイトのローカルメモリを備えている。2022年、GraphcoreとTSMCはBow IPUを発表した。これは、GC200ダイを電力供給ダイとフェースツーフェースで接合する3Dパッケージであり、より低いコア電圧でより高いクロックレートを可能にする。
GC2とGC200の両チップは、タイルあたり6スレッドを使用し、それぞれ合計7,296および8,832スレッドとなる。これらはMIMD（複数命令・複数データ）並列処理を採用し、レジスタを除いて、デバイス上の唯一のメモリ形式として分散ローカルメモリを持つ。古いGC2チップはタイルあたり256KiB、新しいGC200はタイルあたり約630KiBであり、4タイルの島に配置され、その後列に配置される。レイテンシはタイル内で最も良好である。
IPUは、確率的丸めを備えたIEEE FP16と、より低い性能での単精度FP32をサポートする。ローカルで実行されるコードとデータはタイルに収まる必要があるが、メッセージパッシングにより、オンチップまたはオフチップのすべてのメモリを使用できる。AI用ソフトウェアは、例えばPyTorchサポートを通じて、これを透過的に可能にする。
ソフトウェアスタック
2016年、Graphcoreは機械知能向けに設計された世界初のグラフツールチェーンであるPoplarソフトウェアスタックを発表した。Poplarは、グラフコンパイラ、ランタイム、およびAIモデルの構築と展開のためのライブラリを含む完全なソフトウェア開発キットである。これはIPUハードウェアの複雑さを抽象化し、開発者がTensorFlowやPyTorchなどのフレームワークで高レベルのコードを記述できるようにする。
Poplarのグラフベースのアプローチは、それ自体が処理タイルのグラフであるIPUのアーキテクチャに適している。コンパイラはニューラルネットワークの計算グラフをIPUのタイルにマッピングし、メモリ使用量と通信を最適化する。ランタイムは、スケジューリングやデータ移動を含む、ハードウェア上のグラフの実行を管理する。
ソフトウェアスタックには、推論用のライブラリであるPopARTと、ニューラルネットワーク構築用のライブラリであるPopNNも含まれる。これらのツールは既存のAIフレームワークと相互運用可能になるように設計されており、開発者がIPU技術を採用しやすくしている。
市場での位置づけと競争
Graphcoreは、NVIDIAがGPUで歴史的に支配してきたAIアクセラレータの競争の激しい分野で事業を展開している。他の競合には、Instinctラインを持つAMD、Gaudiプロセッサを持つIntel、およびGroqやSambaNovaなどのスタートアップが含まれる。GraphcoreのIPUは、インメモリコンピューティングと超並列アーキテクチャに焦点を当てることで差別化を図っており、特に大規模なメモリフットプリントを持つ特定の種類のモデルに対して利点を提供できる。
同社はクラウドとエッジの両市場を対象としている。そのプロセッサは、マイクロソフト・アジュールやOracle Cloudなどのクラウドプロバイダーとのパートナーシップを通じてデータセンターに展開されてきた。Graphcoreはまた、自然言語処理、コンピュータビジョン、科学計算などの分野でAIワークロードを加速するために、研究機関や企業と協力してきた。
技術革新にもかかわらず、Graphcoreは事業拡大において課題に直面してきた。AIアクセラレータ市場は資本集約的であり、同社はNVIDIAのエコシステムとソフトウェアの成熟度と競争するのに苦労してきた。ソフトバンクによる買収は、財務的安定性とより広範なリソースへのアクセスを提供する方法と見なされている。
将来の方向性
Graphcoreは、アラン・チューリングと共に働いたイギリスの数学者I.J.グッドにちなんで名付けられた「グッドマシン」を構築するという野心を表明している。目標は、人間の脳が持つシナプスよりも多くのパラメータを持つAIモデルを可能にすることであり、これにはハードウェアとソフトウェアの両方で大幅な進歩が必要となる。同社はIPUアーキテクチャの開発を継続しており、さらに高い性能と効率を提供できる将来の世代の計画がある。
ソフトバンクによる買収は、これらの努力を加速することが期待されている。ソフトバンクは、Arm Holdingsを含むAIおよび半導体企業への投資の歴史があり、Graphcoreに製造とグローバルリーチを拡大するために必要な資本を提供できる可能性がある。この取引の規制承認はまだ保留中であるが、完了すれば、イギリスのチップ設計者にとって新たな章を刻むことになるだろう。