Cerebras Cloud는 Cerebras Systems의 웨이퍼 스케일 프로세서로 구동되는 인공지능 훈련 및 추론 인프라에 대한 접근을 제공하는 클라우드 컴퓨팅 서비스입니다. 이 플랫폼은 머신러닝 및 딥러닝 워크로드를 가속화하도록 설계되었으며, 주요 제공업체의 GPU 기반 클라우드 서비스에 대한 대안을 제공합니다. 대규모 신경망(대규모 언어 모델 및 트랜스포머 아키텍처 포함)을 훈련하려는 기업과 연구 기관을 대상으로 하며, 훈련 시간과 에너지 소비를 줄입니다.
이 서비스는 Cerebras의 맞춤형 웨이퍼 스케일 엔진(WSE) 칩을 중심으로 구축되었으며, 이 칩은 기존의 반도체 다이보다 훨씬 큽니다. Cerebras는 클라우드 서비스를 자체 하드웨어와 통합함으로써 AI 모델 배포를 단순화하고 메모리 대역폭 및 상호 연결 지연 시간과 같은 병목 현상을 해결하는 것을 목표로 합니다. 이 플랫폼은 PyTorch 및 TensorFlow와 같은 인기 있는 프레임워크를 지원하여 개발자가 최소한의 코드 변경으로 기존 워크플로를 마이그레이션할 수 있게 합니다.
역사 및 개발
Cerebras Systems는 2015년 Andrew Feldman과 다른 사람들에 의해 AI용 특수 하드웨어를 구축하는 목표로 설립되었습니다. 회사는 2019년 첫 번째 웨이퍼 스케일 엔진을 출시했으며, 이후 후속 버전이 이어졌습니다. 2021년 Cerebras Cloud의 출시는 회사의 클라우드 서비스 시장 진출을 의미하며, AWS, Microsoft Azure, Google Cloud와 같은 기존 업체와 경쟁했습니다. 이 서비스는 처음에는 선별된 고객을 대상으로 했으며, 시간이 지남에 따라 더 넓은 범위로 제공이 확대되었습니다.
아키텍처 및 기술
Cerebras Cloud의 핵심은 단일 실리콘 웨이퍼에 방대한 수의 처리 코어를 통합하는 웨이퍼 스케일 엔진입니다. 예를 들어, CS-2 시스템은 850,000개의 코어와 40GB의 온칩 메모리를 포함합니다. 이 설계는 분산 훈련에서 일반적인 병목 현상인 칩 간 데이터 이동의 필요성을 줄입니다. 클라우드 서비스는 기본 하드웨어를 추상화하여 사용자에게 주문형으로 확장할 수 있는 가상 클러스터를 제공합니다. 또한 하드웨어에 맞게 모델 그래프를 최적화하는 컴파일러와 런타임을 포함하며, 훈련 및 추론 작업을 모두 지원합니다.
기능 및 제공 사항
Cerebras Cloud는 몇 가지 주요 기능을 제공합니다. 체크포인트 및 내결함성을 갖춘 관리형 훈련 작업을 제공하여 수동 개입 없이 장기 실행 훈련을 가능하게 합니다. 이 서비스에는 사전 훈련된 모델과 미세 조정 기능이 있는 모델 주크박스가 포함됩니다. 추론의 경우 자동 확장 기능이 있는 저지연 서빙을 제공합니다. kubernetes 및 인기 있는 MLOps 도구와의 통합이 지원되어 기존 데이터 과학 워크플로에 원활하게 통합할 수 있습니다. 또한 이 플랫폼은 가상 사설 클라우드(VPC) 피어링 및 전송 중 및 저장 중 암호화와 같은 기능을 통해 보안과 규정 준수를 강조합니다.
사용 사례 및 응용 분야
Cerebras Cloud는 다양한 분야에서 사용됩니다. 의료 분야에서는 의료 영상 분석과 약물 발견을 가속화합니다. 금융 기관은 사기 탐지 및 알고리즘 거래에 사용합니다. 학술 연구자들은 대규모 시뮬레이션과 자연어 처리 연구에 이 플랫폼을 활용합니다. 이 서비스는 특히 막대한 계산 리소스가 필요한 대규모 언어 모델 훈련에 유용하며, 훈련 시간을 몇 달에서 몇 주 또는 며칠로 줄입니다.
경쟁사와의 비교
Cerebras Cloud는 Coreweave, Groq, SambaNova와 같은 다른 특화된 AI 클라우드 서비스와 경쟁합니다. 범용 클라우드와 달리 이러한 제공업체는 AI 워크로드에만 집중하여 최적화된 하드웨어와 소프트웨어 스택을 제공합니다. NVIDIA 기반 인스턴스와 비교하여 Cerebras는 특정 워크로드에서 와트당 성능이 더 높고 총 소유 비용이 더 낮다고 주장합니다. 그러나 대규모 클라우드의 생태계와 소프트웨어 성숙도는 여전히 과제로 남아 있으며, 많은 팀이 GPU 가속과 긴밀하게 통합된 PyTorch 및 TensorFlow 워크플로에 이미 익숙하기 때문입니다.
수용 및 영향
Cerebras Cloud는 하드웨어-소프트웨어 공동 설계에 대한 혁신적인 접근 방식으로 AI 커뮤니티에서 좋은 평가를 받았습니다. 초기 채택자들은 훈련 시간과 에너지 효율성에서 상당한 속도 향상을 보고했습니다. 이 서비스는 MIT CSAIL 및 Stanford AI Lab과 같은 연구 기관과 제약 및 자동차 분야의 상업 기업에서 채택되었습니다. 그 성공은 또한 웨이퍼 스케일 통합 기술에 대한 추가 투자를 촉진하여 더 넓은 반도체 산업에 영향을 미쳤습니다.
향후 방향
앞으로 Cerebras Cloud는 비전 트랜스포머 및 확산 모델과 같은 새로운 AI 모델에 대한 지원과 더 고급 자동화를 통해 기능 세트를 확장할 것으로 예상됩니다. 회사는 또한 엄격한 데이터 거주 요구 사항이 있는 기업을 위해 온프레미스 및 하이브리드 배포를 탐색하고 있습니다. Generative AI에 대한 수요가 계속 증가함에 따라 Cerebras Cloud는 AI 인프라의 미래를 형성하는 데 중요한 역할을 할 좋은 위치에 있습니다.