Graphcore는 영국 브리스톨에 본사를 둔 영국 반도체 회사로, 인공지능 및 머신러닝용 가속기를 개발한다. 2016년 Simon Knowles와 Nigel Toon이 설립했으며, 온칩 메모리에 전체 머신러닝 모델을 저장하도록 설계된 대규모 병렬 프로세서인 Intelligence Processing Unit(IPU)으로 잘 알려져 있다. 2024년 7월, Nvidia 및 다른 기존 업체들이 지배하는 시장에서 상업적 어려움을 겪은 후 SoftBank Group에 약 5억 달러에 인수되었다.
역사
Graphcore는 2016년 Simon Knowles와 Nigel Toon이 설립했으며, 두 사람 모두 반도체 업계의 베테랑이다. Knowles는 이전에 ARM Holdings의 스핀오프인 Element 14와 칩 설계 회사 Icera를 공동 설립했고, Toon은 XMOS를 이끌고 Altera에서 고위 직책을 역임했다. 이 회사는 GPU 중심 접근 방식이 지배하던 분야에서 AI 워크로드에 특화된 새로운 종류의 프로세서를 만드는 것을 목표로 했다.
2016년 가을, Graphcore는 Robert Bosch Venture Capital이 주도하고 삼성전자, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital, Pitango가 참여한 첫 자금 조달 라운드를 확보했다. 이 초기 지원으로 엔지니어링 팀을 확장하고 IPU 아키텍처 개발을 가속화할 수 있었다.
2017년 7월, Graphcore는 Atomico가 주도하는 시리즈 B 라운드를 확보했으며, 몇 달 후 Sequoia Capital로부터 5,000만 달러의 추가 투자를 유치했다. 이 자금 투입으로 회사 가치는 3억 달러 이상으로 평가되었고, 첫 실리콘 테이프아웃에 자금을 지원했다.
2018년 12월, Graphcore는 2억 달러 규모의 시리즈 D 라운드를 마감하여 기업 가치를 17억 달러로 끌어올리며 유니콘 지위를 얻었다. 이 라운드에는 마이크로소프트, 삼성, Dell Technologies가 투자자로 참여했다. 이 자금은 첫 제품의 상용 출시와 소프트웨어 생태계 확장을 지원했다.
2019년 11월 13일, Graphcore는 Graphcore C2 IPU 카드를 Microsoft Azure에서 미리 볼 수 있다고 발표하여 클라우드 배포의 중요한 이정표를 세웠다. 마이크로소프트와의 파트너십을 통해 초기 고객은 AI 연구 및 개발을 위해 IPU 기반 인스턴스에 액세스할 수 있었다.
2023년 초, Meta Platforms는 Graphcore의 AI 네트워킹 기술 팀을 인수하여 여러 엔지니어가 Meta의 인프라 그룹에 합류했다. 이 인수는 데이터 센터용 맞춤형 실리콘을 구축하려는 Meta의 광범위한 노력의 일환이었지만, Graphcore는 핵심 IPU 사업과 나머지 직원을 유지했다.
2024년 7월, SoftBank Group은 Graphcore를 약 5억 달러에 인수하기로 합의했다. 영국 정부의 투자 보안 부서의 규제 심사를 받은 이 거래는 Graphcore의 독립성의 종말을 의미했다. SoftBank의 인수는 ARM Holdings와 Nvidia 지분을 이미 포함하고 있던 AI 칩 포트폴리오를 강화하기 위한 전략적 움직임으로 여겨졌다.
제품
Graphcore의 주요 제품 라인은 AI 및 머신러닝 워크로드를 위해 처음부터 설계된 프로세서인 Intelligence Processing Unit(IPU)이다. 그래픽 렌더링에 최적화되고 나중에 AI에 적용된 기존 GPU와 달리, IPU 아키텍처는 병렬 처리와 온칩 메모리 대역폭을 우선시한다.
2016년, Graphcore는 IPU용으로 특별히 설계된 최초의 그래프 기반 툴체인인 Poplar 소프트웨어 스택을 발표했다. Poplar를 통해 개발자는 머신러닝 모델을 IPU의 여러 코어에 매핑할 수 있으며, 병렬 프로그래밍의 복잡성을 추상화한다.
2017년 7월, Graphcore는 16nm 공정으로 제조되고 코어당 256KB의 프로세서 내 메모리를 갖춘 1,216개 코어를 갖춘 첫 번째 칩인 Colossus GC2를 공개했다. GC2는 Graphcore C2라는 PCI Express 카드에 패키징되었으며, 두 개의 GC2 칩이 포함되어 총 2,432개 코어와 512MB의 온칩 메모리를 제공했다. C2 카드는 표준 서버에 삽입되도록 설계되었으며 TensorFlow 및 PyTorch와 같은 인기 있는 머신러닝 프레임워크를 지원했다.
2020년 7월, Graphcore는 TSMC의 7nm 공정으로 제조된 2세대 프로세서인 Colossus GC200을 출시했다. GC200은 1,472개 코어, 900MB의 프로세서 내 메모리, 590억 개의 트랜지스터를 갖추고 있어 당시 생산된 가장 큰 칩 중 하나였다. GC200은 Mk2 IPU-POD 시스템으로 제공되었으며, 단일 카드에서 수천 개의 IPU를 갖춘 대규모 클러스터로 확장할 수 있었다.
2022년, Graphcore는 GC200의 3D 패키징 버전인 Bow IPU를 위해 TSMC와 협력했다. Bow IPU는 전력 공급 다이를 프로세서 다이에 접합하여 더 높은 클록 속도를 허용하면서 전력 소비를 줄이고 성능 대비 전력 효율을 개선했다.
GC2와 GC200은 모두 코어당 6개 스레드를 지원하므로 GC2는 7,296개 스레드, GC200은 8,832개 스레드를 동시에 실행할 수 있다. IPU의 아키텍처는 MIMD(복수 명령어·복수 데이터) 병렬 처리 모델을 기반으로 하며, 각 코어가 독립적으로 명령어를 실행한다. 공유 메모리 계층 구조에 의존하는 GPU와 달리 IPU는 분산 로컬 메모리를 사용하며 각 코어에는 자체 전용 메모리 블록이 있다. 이 설계는 별도의 캐시 계층 구조의 필요성을 제거하여 모든 데이터가 온칩 메모리에 상주하므로 지연 시간과 전력 소비를 줄인다.
IPU는 AI 교육에 특히 적합한 확률적 반올림을 갖춘 IEEE 754 절반 정밀도(FP16) 부동 소수점 연산을 지원한다. 또한 더 높은 수치 정밀도가 필요한 애플리케이션을 위해 단정밀도(FP32)도 지원하지만 성능은 낮다. 프로세서는 전체 머신러닝 모델을 온칩 메모리 내에서 실행하도록 설계되어 기존 아키텍처의 병목 현상인 빈번한 오프칩 데이터 전송을 방지한다.
Graphcore의 소프트웨어 스택에는 Poplar 및 PopART 라이브러리가 포함되어 모델 컴파일, 최적화 및 실행 도구를 제공한다. 또한 회사는 분산 교육 프레임워크인 PopDist와 희소 행렬 연산용 라이브러리인 PopSparse를 개발했다. 이러한 도구는 개발자가 기존 모델을 IPU로 포팅하고 고유한 기능을 활용하는 것을 더 쉽게 만드는 것을 목표로 한다.
같이 보기
참고 문헌
- "Graphcore - 회사 소개". Graphcore. 2025-01-01 확인.
- "Graphcore, 17억 달러 가치로 2억 달러 모금". TechCrunch. 2018-12-18.
- "Meta, Graphcore의 AI 네트워킹 팀 인수". The Register. 2023-03-10.
- "SoftBank, 영국 AI 칩 제조업체 Graphcore 인수". Financial Times. 2024-07-11.
- "Graphcore, Colossus GC200 공개". AnandTech. 2020-07-15.
- "Graphcore 및 TSMC, Bow IPU 발표". Graphcore 보도 자료. 2022-05-25.