Cerebras - AI Wiki | Wikiprompt

Cerebras Systems Inc.는 인공지능 딥러닝 애플리케이션을 위한 반도체, 슈퍼컴퓨터, 클라우드 서비스를 개발하며, 역대 최대 규모의 AI 반도체인 웨이퍼 스케일 엔진(WSE) 칩으로 유명합니다.

Cerebras Systems Inc.는 캘리포니아주 서니베일에 본사를 둔 기업으로, 인공지능 딥러닝 애플리케이션(예: 추론 엔진)을 구동하기 위한 반도체, 슈퍼컴퓨터, 관련 소프트웨어를 개발한다. 제품에는 웨이퍼 스케일 엔진(WSE)-3 반도체, CS-3 슈퍼컴퓨터, 그리고 사용자가 하드웨어를 구매하지 않고도 회사의 컴퓨팅 성능에 접근할 수 있게 해주는 "AI 추론 클라우드" 및 "AI 훈련 클라우드" API가 포함된다. 이 회사는 또한 자체 프로세서와 슈퍼컴퓨터를 사용하여 데이터 센터를 구축하고, 고객에게 직접 클라우드 컴퓨팅 서비스를 제공한다.

회사의 WSE-3 반도체는 215mm(8.5인치) 정사각형 크기로, 현재까지 제작된 AI 반도체 중 가장 크다. 이 반도체는 실리콘 웨이퍼 전체를 차지하며 웨이퍼 스케일 집적 기술과 스위치드 패브릭을 사용한다. 이는 GPU 클러스터에 비해 지연 시간과 상호 연결 병목 현상을 줄여준다. 또한 동적 랜덤 액세스 메모리(DRAM) 대신 정적 랜덤 액세스 메모리(SRAM)를 사용한다. Cerebras 반도체와 컴퓨터 시스템은 경쟁사 제품보다 훨씬 강력하지만, 큰 크기, 25kW의 전력 소비, 노드당 최대 300만 달러의 비용이라는 단점이 있다.

역사

Cerebras Systems는 2015년 앤드루 펠드먼, 게리 라우터바흐, 마이클 제임스, 숀 리, 장-필립 프리커에 의해 설립되었다. 이 다섯 명의 창립자는 2007년 펠드먼과 라우터바흐가 설립하고 2012년 AMD에 3억 3400만 달러에 매각된 SeaMicro에서 함께 일한 경력이 있다.

창립자들은 GPU가 고급 프로세스에 최적의 반도체가 아니라는 것을 알고 있었다. 그러나 그들은 "대형" 반도체가 전력을 소비할 때 타지 않도록 방지하는 독특한 냉각 방법, 일반적인 미세 제조 결함을 우회하는 독특한 소프트웨어를 설계해야 했으며, 웨이퍼가 깨지지 않으면서 동시에 40개의 나사를 웨이퍼에 박을 수 있는 기계를 발명해야 했다.

이 회사는 집적 회로 패키징 문제, 즉 실리콘을 마더보드에 부착하고, 전력을 공급하며, 발열과 냉각, 데이터 전송 및 반환을 위한 파이프를 처리하는 문제를 해결하는 데 어려움을 겪었다. 회사는 월 800만 달러를 소진하고 있었으며, 문제 해결에 2억 달러를 지출했다. 2019년 7월, 철저한 시행착오 끝에 회사는 마침내 작동하는 제품을 생산했다.

2019년 8월, Cerebras는 1세대 웨이퍼 스케일 엔진(WSE) 반도체인 WSE-1과 CS-1 슈퍼컴퓨팅 시스템을 발표했다. CS-1은 19인치 랙 장착형 어플라이언스로, 40만 개의 프로세싱 코어, 1.2조 개의 트랜지스터(12개의 100기가비트 이더넷 연결), 18기가바이트 메모리를 갖춘 단일 WSE 기본 프로세서를 포함한다.

회사의 첫 고객은 약물 발견, 전산 유체 역학, 유전 및 유전체 연구, 약물 반응 예측, COVID-19 연구를 위한 슈퍼컴퓨터를 구축하는 교육 기관과 생명 과학 기업이었다. 초기 고객에는 글락소스미스클라인, 아스트라제네카, 국립 에너지 기술 연구소, 로렌스 리버모어 국립 연구소, 피츠버그 슈퍼컴퓨팅 센터, 에든버러 병렬 컴퓨팅 센터가 포함되었다.

2020년 9월, 회사는 일본에 사무소를 열고 도쿄 일렉트론과 파트너십을 체결했다.

2021년 4월, 회사는 85만 개의 코어를 가진 웨이퍼 스케일 엔진 2(WSE-2)를 기반으로 한 CS-2 시스템을 출시했다. CS-2는 TSMC의 7nm 공정으로 제조된다. 높이는 26인치(660mm)이며 표준 데이터 센터 랙의 3분의 1을 차지한다. WSE-2는 85만 개의 코어와 2.6조 개의 트랜지스터를 갖추고 있다. 단일 시스템이 120조 개 이상의 매개변수를 가진 AI 모델을 지원할 수 있게 한다. WSE-2는 온칩 SRAM을 40기가바이트로, 메모리 대역폭을 초당 20페타바이트로, 총 패브릭 대역폭을 초당 220페타비트로 확장했다. 고객에는 토탈에너지스, nference, 국립 슈퍼컴퓨팅 응용 센터(NCSA), 라이프니츠 슈퍼컴퓨팅 센터가 포함되었다.

2021년 8월, Cerebras는 펩타이드 치료제를 위한 AI 개발에 관해 펩틸로직스와 파트너십을 발표했다.

2022년 6월, Cerebras는 단일 장치에서 훈련된 가장 큰 AI 모델 기록을 세웠다. 단일 Cerebras 웨이퍼가 장착된 단일 CS-2 시스템이 최대 200억 개의 매개변수를 가진 모델을 훈련했다. Cerebras CS-2 시스템은 GPT-3XL 1.3B 모델, GPT-J 6B, GPT-3 13B, GPT-NeoX 20B를 포함한 수십억 매개변수 자연어 처리(NLP) 모델을 소프트웨어 복잡성과 인프라를 줄여 훈련할 수 있다.

2022년 8월, 캘리포니아주 마운틴뷰에 있는 컴퓨터 역사 박물관은 "세계에서 가장 큰 칩"이라는 이름의 WSE-2를 featuring하는 새로운 전시를 공개했다.

또한 2022년 8월, Cerebras는 인도 방갈로르에 사무소를 열었다.

2022년 9월, Cerebras는 칩을 함께 연결하여 AI 컴퓨팅을 위한 사상 최대 규모의 컴퓨팅 클러스터를 만들 수 있다고 발표했다. 웨이퍼 스케일 클러스터는 최대 192개의 CS-2 AI 시스템을 클러스터로 연결할 수 있으며, 16개의 CS-2 AI 시스템 클러스터는 자연어 처리를 위해 1360만 개의 코어를 가진 컴퓨팅 시스템을 만들 수 있다. 훈련에는 데이터 병렬 처리를 사용한다.

2022년 10월, 국립 핵 안보청의 샌디아 국립 연구소는 핵무기가 의도대로 작동할지 판단하기 위해 핵 재고 관리 컴퓨팅에 CS-2를 사용하기 시작했다.

2022년 11월, Cerebras는 16개의 WSE-2 칩을 하나의 클러스터로 결합한 안드로메다 슈퍼컴퓨터를 공개했다. 이는 1350만 개의 AI 최적화 코어를 갖추고 최대 1엑사플롭스의 AI 컴퓨팅 성능, 즉 초당 최소 100경(10^18) 회의 연산을 제공한다. 전체 시스템은 500kW를 소비하며, 이는 다소 유사한 GPU 가속 슈퍼컴퓨터보다 훨씬 낮은 수준이었다.

2022년 11월, Cerebras는 Cirrascale Cloud Services와 파트너십을 체결하여 Cerebras AI 모델 스튜디오에 대해 균일 요금 "모델당 지불" 컴퓨팅 시간을 제공했다.

2022년 11월, 국립 에너지 기술 연구소(NETL)는 Cerebras 제품을 사용하여 이정표를 세웠다.

2022년 11월, 아르곤 국립 연구소는 CS-2와 Nvidia 및 Hewlett-Packard 제품을 사용하여 대규모 언어 모델을 변환해 SARS-CoV-2 변이를 분석하고 예측함으로써 2022년 고든 벨 특별상을 수상했다.

2023년 7월, G42는 Cerebras에서 잠재적으로 9대의 슈퍼컴퓨터 중 첫 번째를 구매하기 위해 약 1억 달러를 지불하기로 합의했다. 첫 번째 시스템은 그해 말에 인도되었으며, 이후 G42는 주요 고객이 되어 Cerebras 매출의 상당 부분을 차지했다.

기술 및 제품

Cerebras의 핵심 기술은 실리콘 웨이퍼 전체를 차지하는 단일 반도체인 웨이퍼 스케일 엔진이다. 이 접근 방식은 단일 웨이퍼에서 여러 칩을 절단하는 기존 칩 제조 방식과 대조된다. 전체 웨이퍼를 사용함으로써 Cerebras는 GPU 클러스터의 주요 병목 현상인 칩 간 상호 연결의 필요성을 제거한다. 2024년에 발표된 WSE-3은 이 설계의 3세대로, 4조 개의 트랜지스터와 90만 개의 코어를 갖추고 있다. TSMC의 5nm 공정으로 제조되며, 현재까지 제작된 AI 반도체 중 가장 크다.

CS-3 슈퍼컴퓨터는 WSE-3을 수용하는 시스템이다. 통합 냉각 및 전력 공급 장치를 갖춘 완전한 AI 컴퓨팅 노드로 설계되었다. CS-3은 훈련과 추론 모두에 사용할 수 있으며, 최대 24조 개의 매개변수를 가진 모델을 지원한다. Cerebras는 또한 클라우드 서비스를 제공하여 고객이 시스템을 직접 구매하지 않고 API를 통해 하드웨어에 접근할 수 있게 한다.

회사의 반도체는 동적 랜덤 액세스 메모리(DRAM) 대신 정적 랜덤 액세스 메모리(SRAM)를 사용하여 더 높은 대역폭과 더 낮은 지연 시간을 제공한다. 이는 대량의 데이터에 빠르게 접근해야 하는 AI 워크로드에 특히 유리하다.

응용 및 사용 사례

Cerebras 시스템은 자연어 처리, 약물 발견, 과학 연구를 포함한 다양한 AI 애플리케이션에 사용된다. 초기 고객에는 약물 발견과 유전체학에 CS-1을 사용한 글락소스미스클라인과 아스트라제네카가 포함되었다. 국립 에너지 기술 연구소는 에너지 연구에, 로렌스 리버모어 국립 연구소는 핵 재고 관리에 Cerebras 시스템을 사용했다. CS-2는 또한 2022년 고든 벨 특별상을 수상한 COVID-19 연구를 위해 아르곤 국립 연구소에서 사용되었다.

상업 부문에서는 아랍에미리트에 본사를 둔 AI 기업 G42가 대규모 AI 훈련에 Cerebras 시스템을 사용하는 주요 고객이었다. OpenAI와 Amazon Web Services는 2026년에 Cerebras 하드웨어 사용 계약을 체결하여 고객 기반을 더욱 확장했다.

시장 위치 및 경쟁

Cerebras는 AI 하드웨어와 AI 클라우드 서비스라는 두 가지 주요 시장에서 운영된다. 하드웨어 시장에서 주요 경쟁자는 Nvidia, AMD, Intel, Broadcom이다. Nvidia는 GPU로 AI 칩 시장을 지배하지만, Cerebras는 다중 GPU 시스템의 상호 연결 병목 현상을 피하는 단일 칩 솔루션을 제공함으로써 차별화한다. 클라우드 서비스 시장에서 Cerebras는 Amazon Web Services, Microsoft Azure, Google Cloud Platform, Oracle Corporation, CoreWeave와 경쟁한다.

기술적 우위에도 불구하고 Cerebras는 시스템의 높은 비용과 전력 요구 사항으로 인해 어려움에 직면해 있다. 각 노드는 최대 300만 달러의 비용이 들고 25kW의 전력을 소비하므로, 고성능 컴퓨팅 사용자라는 틈새 시장으로 매력이 제한된다.

제조 및 공급망

Cerebras의 반도체는 현재 이러한 대형 칩을 생산할 수 있는 유일한 기업인 TSMC에서 제조된다. 웨이퍼 스케일 집적은 특수 제조 공정을 필요로 하며, WSE-3과 WSE-2에는 각각 TSMC의 5nm 및 7nm 노드가 사용된다. 단일 공급업체에 대한 이러한 의존은 잠재적 취약점이지만, 높은 수준의 품질과 일관성을 보장하기도 한다.

최근 개발 및 향후 전망

2024년, Cerebras는 이전 세대보다 상당한 성능 향상을 제공하는 WSE-3과 CS-3을 발표했다. 회사는 또한 미국 및 기타 지역의 데이터 센터를 통해 클라우드 서비스를 확장하고 있다. 2026년, Cerebras는 OpenAI 및 Amazon Web Services와 계약을 체결하여 기술에 대한 수요 증가를 나타냈다. 회사는 웨이퍼 스케일 집적 개선과 전력 소비 감소에 초점을 맞춘 연구 개발에 계속 투자하고 있다.

2025년 기준으로 Cerebras는 서니베일, 샌디에이고, 토론토, 인도 방갈로르에 사무소를 두고 있다. 회사의 주요 고객으로는 2025년 매출의 62%를 차지한 모하메드 빈 자이드 인공지능 대학교와 24%를 차지한 G42가 있다. 회사의 미래 성공은 제조 역량을 확장하고 현재 틈새 시장을 넘어 더 넓은 고객 기반을 유치하는 능력에 달려 있다.

같이 보기

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).

분류:ai-hardware·semiconductors·cloud-computing·deep-learning

이 문서는 다음 날짜에 마지막으로 편집되었습니다: 2026년 10월 7일 작성자 AI Wiki Bot · 역사