Cerebras Systems Inc.는 캘리포니아주 서니베일에 본사를 둔 기업으로, 인공지능 딥러닝 애플리케이션(예: 추론 엔진)을 구동하기 위한 반도체, 슈퍼컴퓨터, 관련 소프트웨어를 개발한다. 이 회사의 제품에는 웨이퍼 스케일 엔진(WSE) 반도체, CS 시리즈 슈퍼컴퓨터, AI 훈련 및 추론용 클라우드 API가 포함되어 있어 사용자가 원격으로 컴퓨팅 성능에 접근할 수 있다. 또한 이 회사는 자체 프로세서를 사용하는 데이터 센터를 구축하여 직접 클라우드 컴퓨팅 서비스를 제공한다.
Cerebras의 WSE-3 반도체는 215mm(8.5인치) 정사각형 크기로, 현재까지 제작된 AI 반도체 중 가장 크며 전체 실리콘 웨이퍼를 차지한다. 이 제품은 웨이퍼 스케일 통합과 스위치드 패브릭을 사용하여 GPU 클러스터에 비해 지연 시간과 상호 연결 병목 현상을 줄이고, 동적 랜덤 액세스 메모리(DRAM) 대신 정적 랜덤 액세스 메모리(SRAM)를 사용한다. 경쟁 제품보다 훨씬 강력하지만, 큰 크기, 25kW의 전력 소비, 노드당 최대 300만 달러의 비용 등의 단점이 있다.
역사
Cerebras Systems는 2015년 앤드루 펠드먼, 게리 라우터바흐, 마이클 제임스, 숀 리, 장-필리프 프리커가 공동 설립했다. 이들은 이전에 펠드먼과 라우터바흐가 2007년 설립하여 2012년 AMD에 3억 3400만 달러에 매각한 SeaMicro에서 함께 일한 경력이 있다. 창립자들은 GPU가 고급 AI 프로세스에 최적이 아니라는 점을 인식했지만, 거대한 반도체가 타지 않도록 하는 독특한 냉각 방법 설계, 미세한 제조 결함을 우회하는 소프트웨어 개발, 웨이퍼를 깨지 않으면서 동시에 40개의 나사를 웨이퍼에 박는 기계 발명 등 상당한 엔지니어링 과제를 극복해야 했다.
이 회사는 집적 회로 패키징(실리콘을 마더보드에 부착하고, 전력을 공급하며, 발열, 냉각, 데이터 전달을 관리하는 작업)에 어려움을 겪었다. 월 800만 달러를 소진하고 이 문제에 2억 달러를 지출한 끝에, Cerebras는 철저한 시행착오를 거쳐 2019년 7월 마침내 작동하는 제품을 생산했다.
2019년 8월, Cerebras는 1세대 WSE-1 반도체와 CS-1 슈퍼컴퓨팅 시스템을 발표했다. CS-1은 19인치 랙 장착형 어플라이언스로, 40만 개의 처리 코어, 1.2조 개의 트랜지스터, 12개의 100기가비트 이더넷 연결, 18GB 메모리를 갖춘 단일 WSE 기본 프로세서를 포함한다. 초기 고객에는 약물 발견, 전산 유체 역학, 유전 연구, 약물 반응 예측, COVID-19 연구용 슈퍼컴퓨터를 구축하는 교육 기관과 생명 과학 기업이 포함되었으며, 글락소스미스클라인, 아스트라제네카, 국립 에너지 기술 연구소, 로렌스 리버모어 국립 연구소, 피츠버그 슈퍼컴퓨팅 센터, 에든버러 병렬 컴퓨팅 센터 등이 있다.
2020년 9월, Cerebras는 일본에 사무소를 열고 도쿄 일렉트론과 파트너십을 체결했다. 2021년 4월, TSMC의 7nm 공정으로 제조된 WSE-2 기반의 CS-2 시스템을 출시했다. WSE-2는 85만 개의 코어, 2.6조 개의 트랜지스터, 40GB의 온칩 SRAM, 초당 20페타바이트의 메모리 대역폭, 초당 220페타비트의 패브릭 대역폭을 갖추어 120조 개 이상의 매개변수를 가진 AI 모델을 지원할 수 있다. 고객에는 토탈에너지스, nference, 국립 슈퍼컴퓨팅 응용 센터, 라이프니츠 슈퍼컴퓨팅 센터가 포함되었다.
2021년 8월, Cerebras는 펩타이드 치료제용 AI 분야에서 Peptilogics와 파트너십을 체결했다. 2022년 6월, 단일 장치에서 훈련된 가장 큰 AI 모델 기록을 세웠다. CS-2 시스템은 GPT-3XL 1.3B, GPT-J 6B, GPT-3 13B, GPT-NeoX 20B를 포함한 최대 200억 개 매개변수의 모델을 소프트웨어 복잡성을 줄여 훈련했다. 2022년 8월, 컴퓨터 역사 박물관은 WSE-2를 전시했으며, Cerebras는 인도 방갈로르에 사무소를 열었다.
2022년 9월, Cerebras는 최대 192개의 CS-2 시스템을 연결하는 웨이퍼 스케일 클러스터를 발표했으며, 16개 시스템 클러스터는 데이터 병렬 처리를 사용한 자연어 처리를 위해 1360만 개의 코어를 제공한다. 2022년 10월, 샌디아 국립 연구소는 핵 재고 관리 컴퓨팅에 CS-2를 사용하기 시작했다. 2022년 11월, Cerebras는 16개의 WSE-2 칩을 클러스터로 결합한 안드로메다 슈퍼컴퓨터를 공개했다. 이 슈퍼컴퓨터는 1350만 개의 AI 최적화 코어를 갖추고 500kW를 소비하면서 최대 1엑사플롭의 AI 컴퓨팅을 제공하며, 이는 비교 가능한 GPU 가속 시스템보다 훨씬 적은 전력이다. 같은 달, Cirrascale Cloud Services와 균일 요금의 '모델당 지불' 컴퓨팅 서비스 파트너십을 체결했고, 국립 에너지 기술 연구소에서 이정표를 달성했다. 아르곤 국립 연구소는 CS-2를 Nvidia 및 Hewlett-Packard 제품과 함께 사용하여 COVID-19 연구로 2022년 고든 벨 특별상을 수상했다.
2023년 7월, G42는 Cerebras에서 잠재적으로 9대의 슈퍼컴퓨터 중 첫 번째를 약 1억 달러에 구매하기로 합의했다.
기술 및 제품
Cerebras의 핵심 기술은 웨이퍼 스케일 엔진으로, 전체 실리콘 웨이퍼를 차지하는 단일 반도체로 여러 칩과 상호 연결의 필요성을 없앤다. 2024년에 발표된 WSE-3는 향상된 성능으로 이 접근 방식을 이어간다. 2024년에 도입된 CS-3 슈퍼컴퓨터는 WSE-3를 수용하며 대규모 AI 모델의 훈련과 추론 모두를 위해 설계되었다. 이 회사는 또한 AI 훈련 및 추론용 클라우드 API를 제공하여 고객이 하드웨어를 구매하지 않고도 접근할 수 있게 한다.
DRAM 대신 SRAM을 사용하면 매우 높은 메모리 대역폭과 낮은 지연 시간을 제공하며, 이는 딥러닝 워크로드에 중요하다. 스위치드 패브릭 아키텍처는 칩 내 효율적인 통신을 가능하게 하여 GPU 클러스터에서 흔한 병목 현상을 줄인다.
제조 및 고객
Cerebras의 반도체는 현재 이 회사의 칩을 생산할 수 있는 유일한 기업인 TSMC가 제조한다. 이 회사는 서니베일, 샌디에이고, 토론토, 인도 방갈로르에 사무소를 두고 있다. 주요 고객에는 모하메드 빈 자이드 인공지능 대학교(2025년 매출의 62%), G42(2025년 매출의 24%), OpenAI(2026년 계약), 아마존 웹 서비스(2026년 계약)가 포함된다.
시장 위치 및 경쟁
Cerebras의 주요 하드웨어 경쟁사는 Nvidia, AMD, Intel, Broadcom이며, 클라우드 컴퓨팅 서비스는 아마존 웹 서비스, 마이크로소프트 애저, 구글 클라우드 플랫폼, 오라클, CoreWeave와 경쟁한다. 이 회사의 웨이퍼 스케일 접근 방식은 특정 AI 워크로드에서 성능과 에너지 효율성 측면에서 이점을 제공하지만, 높은 비용과 전력 요구 사항으로 인해 시장이 전문 응용 분야로 제한된다.
응용 및 연구
Cerebras 시스템은 약물 발견, 유전체학, 전산 유체 역학, 국가 안보 등 다양한 분야에서 사용되었다. G42와의 파트너십은 중동으로의 영향력을 확장했으며, OpenAI 및 아마존 웹 서비스와의 협력은 AI 산업에서 채택이 증가하고 있음을 시사한다. Cerebras는 또한 단일 시스템에서 수십억 개의 매개변수를 가진 모델을 훈련하는 등 대규모 AI 연구에 참여해 왔다.
최근 개발
2024년, Cerebras는 WSE-3와 CS-3를 도입하여 칩 크기와 성능의 경계를 더욱 확장했다. 이 회사는 클라우드 서비스를 계속 확장하여 기술에 대한 더 넓은 접근을 가능하게 했다. 2025년 현재, Cerebras는 AI 하드웨어 시장에서 틈새 플레이어로 남아 있지만, 독특한 접근 방식은 상당한 주목과 투자를 끌어모았다.