Graphcore Limitedは、AIおよび機械学習向けアクセラレータを開発するイギリスの半導体企業である。主力製品であるIntelligence Processing Unit（IPU）は、大規模並列プロセッサであり、機械学習モデル全体をチップ内に保持することで、メモリと計算間の絶え間ないデータ移動の必要性を低減する。同社は2016年に設立され、2024年にSoftBank Groupによって買収されるまで、AIハードウェア分野における有力なプレイヤーとして知られていた。
IPUアーキテクチャは、従来のGPUとは異なり、多数の小型処理コア（タイル）を備え、各タイルが独自のローカルメモリを持つ。この設計により、モデルのパラメータや活性値への高帯域幅・低遅延なアクセスが可能となり、特にディープラーニングや大規模言語モデルのトレーニングおよび推論に適している。Graphcoreはまた、TensorFlowやPyTorchなどの一般的な機械学習フレームワークをサポートするソフトウェアスタック「Poplar」も開発した。
歴史
Graphcoreは2016年、半導体業界のベテランであるSimon KnowlesとNigel Toonによって設立された。同社は急速にベンチャーキャピタルからの資金を集め、2016年秋にはRobert Bosch Venture Capitalが主導する最初の資金調達ラウンドを完了。その後、Samsung、Amadeus Capital Partners、C4 Ventures、Draper Esprit、Foundation Capital、Pitangoなどの出資を受けた。2017年7月にはAtomicoが主導するシリーズBラウンドで資金を調達し、続いてSequoia Capitalから5000万ドルを獲得。2018年12月までに、シリーズDラウンドで2億ドルを調達し、評価額は17億ドルに達してユニコーン企業となった。この時点の投資家にはMicrosoft、Samsung、Dell Technologiesが含まれる。
2019年11月、GraphcoreはC2 IPUカードがMicrosoft Azure上でプレビュー利用可能になったことを発表し、クラウド展開における重要なマイルストーンを記録した。2023年初頭には、Meta PlatformsがGraphcoreのAIネットワーキング技術チームを買収したが、同社のコア事業は継続された。2024年7月、SoftBank Groupが約5億ドルでGraphcoreの買収に合意。この取引は英国政府の投資セキュリティ部門による審査を受けた。
製品と技術
Graphcoreの最初の製品発表は2016年で、機械学習向けの世界初のグラフツールチェーンとされるソフトウェアスタック「Poplar」を公開した。2017年7月には、同社初のチップ「Colossus GC2」を発表。これは16nmプロセスで製造された大規模並列・混合精度浮動小数点プロセッサであり、2018年に製品化された。GC2は2つのチップを1枚のPCI Expressカードに搭載した「C2 IPU」として提供され、標準的な機械学習フレームワークと組み合わせてGPUと同様の役割を果たすことを目的としていた。このデバイスは、従来のキャッシュ階層ではなくスクラッチパッドメモリに依存する設計を採用している。
2020年7月、Graphcoreは第2世代プロセッサ「GC200」を発表。これはTSMCの7nm FinFETプロセスで製造され、590億トランジスタを集積し、1,472個の計算コアと900MByteのローカルメモリを搭載した823平方ミリメートルの大規模集積回路である。2022年には、GC200ダイを電源供給用ダイとフェイスツーフェイスで3D実装した「Bow IPU」を発表。これにより、コア電圧を下げつつクロックレートを向上させた。同社はまた、I.J. Goodにちなんで名付けられた「Good machine」という長期目標を掲げており、これは人間の脳のシナプス数よりも多くのパラメータを持つAIモデルをサポートすることを目指すものだった。
アーキテクチャの詳細
GC2およびGC200チップは、タイルあたり6スレッドをサポートし、それぞれ合計7,296スレッドおよび8,832スレッドを実現する。アーキテクチャはMIMD（Multiple Instruction, Multiple Data）並列処理を採用し、デバイス上のメモリは分散型ローカルメモリのみである（レジスタを除く）。GC2の各タイルは256KiBのメモリを備え、GC200では約630KiBに増強された。タイルは4つ単位で「アイランド」にまとめられ、さらにそれが列状に配置される。レイテンシはタイル内で最も低く、IPUはIEEE FP16（半精度浮動小数点）を確率的丸めでサポートし、単精度FP32は低い性能で実行される。コードとデータはタイル内に収まる必要があるが、メッセージパッシングによりオンチップ・オフチップの全メモリを利用可能であり、ソフトウェアがこの透過性を提供するため、PyTorchなどのフレームワークでの利用が容易である。
市場での位置づけと影響
Graphcoreは、AIアクセラレータ市場においてNvidiaの挑戦者として自らを位置づけ、GPUやCerebras、Groqなどの他社チップとは異なる独自アーキテクチャを強調した。IPUは特にニューラルネットワークのトレーニングと推論をターゲットとしており、Microsoft Azureやさまざまな研究機関が初期採用者となった。SoftBankによる買収は、同社のAI戦略を強化する動きと見なされたが、英国での規制審査の対象となった。現在もGraphcoreの技術はクラウドおよびエンタープライズ環境で利用されており、ソフトウェアスタックの開発は継続中の活動領域である。
関連項目
- AIアクセラレータ
- 大規模並列プロセッサアレイ