Graphcore Limited는 AI 및 머신러닝용 가속기를 개발하는 영국의 반도체 기업이다. 이 회사의 대표 제품인 Intelligence Processing Unit(IPU)은 대규모 병렬 프로세서로, 전체 머신러닝 모델을 칩 내부에 저장하여 메모리와 연산 장치 간의 잦은 데이터 이동을 줄인다. Graphcore는 2016년에 설립되었으며, 2024년 SoftBank Group에 인수되기 전까지 AI 하드웨어 분야에서 주목할 만한 기업으로 자리 잡았다.
IPU 아키텍처는 기존 GPU와 달리 수많은 소형 연산 코어(타일)를 사용하며, 각 타일은 자체 로컬 메모리를 갖는다. 이러한 설계는 모델 파라미터와 활성화 값에 대한 고대역폭·저지연 접근을 가능하게 하여, 특히 딥러닝 및 대규모 언어 모델의 훈련과 추론에 적합하다. Graphcore는 또한 TensorFlow와 PyTorch 같은 주요 머신러닝 프레임워크를 지원하는 Poplar 소프트웨어 스택을 개발했다.
역사
Graphcore는 2016년, 반도체 업계 베테랑인 Simon Knowles와 Nigel Toon에 의해 설립되었다. 이 회사는 빠르게 벤처 자본을 유치했으며, 2016년 가을 Robert Bosch Venture Capital이 주도한 첫 투자 라운드를 시작으로 Samsung, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital, Pitango 등으로부터 추가 자금을 확보했다. 2017년 7월에는 Atomico가 주도한 시리즈 B 라운드에서 5천만 달러를 유치했고, 이어 Sequoia Capital로부터 5천만 달러를 추가로 확보했다. 2018년 12월까지 Graphcore는 시리즈 D 라운드에서 2억 달러를 조달하며 기업 가치 17억 달러를 인정받아 유니콘 기업이 되었고, 투자자에는 Microsoft, Samsung, Dell Technologies가 포함되었다.
2019년 11월, Graphcore는 C2 IPU 카드가 Microsoft Azure에서 미리보기로 제공된다고 발표하며 클라우드 시장에 중요한 발판을 마련했다. 2023년 초에는 Meta Platforms가 Graphcore의 AI 네트워킹 기술 팀을 인수했지만, 회사의 핵심 사업은 계속 유지되었다. 2024년 7월, SoftBank Group이 약 5억 달러에 Graphcore를 인수하기로 합의했으며, 이 거래는 영국 정부의 투자 심사 부서의 검토를 거쳤다.
제품 및 기술
Graphcore의 첫 제품 발표는 2016년이었으며, Poplar 소프트웨어 스택은 머신러닝을 위한 세계 최초의 그래프 툴체인으로 소개되었다. 2017년 7월, 회사는 첫 번째 칩인 Colossus GC2를 공개했다. GC2는 16nm 공정으로 제조된 대규모 병렬 혼합 정밀도 부동소수점 프로세서로, 2018년에 출시되었다. GC2는 두 개의 칩이 하나의 PCI Express 카드에 패키징된 Graphcore C2 IPU 형태로 제공되었으며, 표준 머신러닝 프레임워크와 함께 GPU와 동일한 역할을 수행하도록 설계되었다.
2020년 7월, Graphcore는 2세대 프로세서인 GC200을 발표했다. GC200은 TSMC의 7nm FinFET 공정으로 제조되었으며, 590억 개의 트랜지스터와 823제곱밀리미터의 다이 면적을 갖추고, 1,472개의 연산 코어와 900MB의 로컬 메모리를 탑재했다. 2022년에는 TSMC와 협력하여 GC200 다이를 전력 공급 다이와 페이스 투 페이스로 본딩한 3D 패키징 방식의 Bow IPU를 선보였으며, 이를 통해 더 높은 클록 속도와 낮은 코어 전압을 구현했다. 또한 회사는 I.J. Good의 이름을 딴 'Good machine'이라는 장기 목표를 제시했는데, 이는 인간 뇌의 시냅스 수보다 더 많은 파라미터를 가진 AI 모델을 지원하는 것을 목표로 한다.
아키텍처 세부 사항
GC2와 GC200 칩은 각각 타일당 6개의 스레드를 지원하여, 총 7,296개 및 8,832개의 스레드를 제공한다. 이 아키텍처는 MIMD(복수 명령·복수 데이터) 병렬 처리를 사용하며, 레지스터를 제외한 모든 메모리는 분산된 로컬 메모리 형태로만 존재한다. 구형 GC2 칩은 타일당 256KB를, 신형 GC200 칩은 타일당 약 630KB를 갖추고 있으며, 타일들은 4개씩 그룹을 이루어 컬럼으로 배열된다. 타일 내부에서의 지연 시간이 가장 짧다. IPU는 IEEE FP16(확률적 반올림 지원)과 FP32(단정밀도, 낮은 성능)를 지원한다. 코드와 데이터는 타일 내에 맞아야 하지만, 메시지 전달 방식을 통해 칩 전체의 온칩 또는 오프칩 메모리를 활용할 수 있으며, 소프트웨어가 이를 투명하게 처리한다.
시장 위치 및 영향
Graphcore는 AI 가속기 시장에서 Nvidia에 도전하는 기업으로 자리매김했으며, GPU와 차별화된 독자적인 아키텍처에 주력했다. 특히 Cerebras나 Groq 같은 경쟁사들과 함께 기존 GPU 외의 대안을 모색하는 흐름 속에서 주목받았다. IPU는 신경망 훈련과 추론에 특화되어 있었으며, Microsoft Azure와 여러 연구 기관이 초기 도입처였다. 2024년 SoftBank에 인수된 이후에도 Graphcore의 기술은 클라우드 및 엔터프라이즈 환경에서 계속 사용되고 있으며, 소프트웨어 스택은 지속적으로 개발되고 있다.
같이 보기
- AI 가속기
- 대규모 병렬 프로세서 어레이