Cirrascale은 인공지능 및 기타 계산 집약적 워크로드를 위한 고성능 인프라를 제공하는 클라우드 컴퓨팅 제공업체이다. 이 회사는 GPU 및 맞춤형 가속기 등 고급 하드웨어에 대한 임대 기반 접근을 제공하여, 조직이 전용 시스템을 소유하는 데 드는 자본 비용 없이 대규모 머신러닝 및 딥러닝 작업을 실행할 수 있게 한다. Cirrascale의 서비스는 신경망과 대규모 언어 모델의 훈련 및 추론에 상당한 계산 리소스가 필요한 스타트업, 연구 기관 및 기업에서 사용된다.
2000년대 초에 설립된 Cirrascale은 처음에는 고성능 컴퓨팅 및 스토리지 솔루션에 주력하다가 AI 워크로드에 맞춘 클라우드 서비스로 방향을 전환했다. 이 회사는 주요 공공 클라우드 제공업체에 대한 유연한 대안으로 자리매김했으며, 특정 성능 또는 데이터 주권 요구 사항을 가진 고객에게 어필하는 베어메탈 및 관리형 클라우드 옵션을 제공한다.
역사와 발전
Cirrascale은 2003년 캘리포니아주 샌디에이고에서 엔터프라이즈 스토리지 및 고성능 컴퓨팅 배경을 가진 팀에 의해 설립되었다. 이 회사의 초기 제품에는 미디어 및 과학 애플리케이션용 블레이드 서버와 스토리지 시스템이 포함되었다. 2010년대에 AI 연구가 가속화되면서 Cirrascale은 GPU 가속 컴퓨팅에 대한 수요 증가를 인지하고 NVIDIA GPU에 대한 클라우드 기반 접근을 제공하기 시작했다. 이러한 전환으로 인해 회사는 자체 인프라가 부족한 학술 연구소와 AI 스타트업을 포함한 더 넓은 고객층을 대상으로 서비스를 제공할 수 있게 되었다.
2010년대 후반까지 Cirrascale은 고속 상호 연결과 대용량 메모리를 갖춘 클러스터를 제공하는 AI 훈련을 위한 틈새 제공업체로 자리 잡았다. 이 회사는 또한 대규모 모델의 분산 훈련을 지원하기 위해 특수 네트워킹 및 스토리지를 갖춘 시스템을 포함한 맞춤형 하드웨어 솔루션도 도입했다.
서비스 및 인프라
Cirrascale은 베어메탈 클라우드와 관리형 클라우드라는 두 가지 주요 서비스 모델을 제공한다. 베어메탈 제공은 고객이 물리적 서버에 직접 액세스할 수 있게 하여 소프트웨어 스택의 완전한 사용자 지정과 최대 성능을 가능하게 한다. 관리형 클라우드는 오케스트레이션, 모니터링 및 지원을 포함하여 전담 DevOps 리소스가 없는 팀의 배포를 간소화한다.
인프라는 미국 내 데이터 센터에 구축되어 있으며, 저지연 및 고대역폭 네트워킹에 중점을 둔다. Cirrascale은 소비자용 카드부터 데이터 센터 가속기까지 다양한 GPU 옵션과 덜 까다로운 작업을 위한 CPU 전용 인스턴스를 제공한다. 이 회사는 또한 생성형 AI 워크로드, 즉 트랜스포머 기반 모델의 훈련 및 추론을 지원하며, 모델 가지치기 및 최적화를 위한 도구를 제공한다.
대상 시장 및 사용 사례
Cirrascale은 AI 연구소, 독립 소프트웨어 공급업체, 헬스케어, 금융, 자율 주행 차량과 같은 분야의 기업을 포함한 다양한 고객층을 대상으로 서비스를 제공한다. 이 회사의 유연한 가격 책정과 단기 계약은 프로토타이핑, 실험, 버스트 훈련과 같이 가변적인 컴퓨팅 요구 사항을 가진 프로젝트에 매력적이다. Cirrascale은 또한 강화 학습 작업, 컴퓨터 비전 애플리케이션 및 자연어 처리에도 사용되어 왔다.
주목할 만한 사용 사례 중 하나는 대규모 언어 모델 개발로, Cirrascale은 수십억 개의 매개변수를 가진 모델을 훈련하는 데 필요한 대규모 병렬 컴퓨팅을 제공한다. 이 회사의 인프라는 분산 훈련 프레임워크를 지원하며 널리 사용되는 AI 소프트웨어 라이브러리와 호환되어 기존 워크플로우에 원활하게 통합할 수 있다.
경쟁 구도
Cirrascale은 아마존 웹 서비스, 마이크로소프트 애저, 구글 클라우드와 같은 주요 클라우드 제공업체와 Groq 및 SambaNova와 같은 특수 AI 클라우드 제공업체와 경쟁한다. 하이퍼스케일러와 달리 Cirrascale은 고성능 컴퓨팅에만 전념하여 AI 워크로드에 더 맞춤화된 경험을 제공한다. 이 회사는 가상화된 인스턴스에 비해 오버헤드가 낮고 제어력이 뛰어난 베어메탈 옵션을 통해 차별화한다.
Cirrascale은 또한 하드웨어 공급업체와 협력하여 AMD 및 인텔과 같은 업체의 새로운 가속기에 대한 조기 액세스를 제공함으로써 고객에게 성능 면에서 경쟁 우위를 제공한다. 이 회사의 민첩성과 고객 지원은 대형 제공업체에 비해 장점으로 자주 언급된다.
향후 전망
AI 모델이 계속해서 규모와 복잡성에서 성장함에 따라 특수 컴퓨팅 인프라에 대한 수요는 증가할 것으로 예상된다. Cirrascale은 데이터 센터 입지를 확장하고 차세대 하드웨어를 통합할 계획으로 이러한 추세를 활용할 좋은 위치에 있다. 이 회사는 또한 TSMC 및 기타 칩 제조업체와의 파트너십을 모색하여 맞춤형 실리콘 솔루션을 제공하고, AI 워크로드의 비용을 절감하며 효율성을 개선할 가능성이 있다.
그러나 Cirrascale은 증가하는 경쟁과 빠른 하드웨어 혁신 속도라는 과제에 직면해 있다. 이 회사는 특히 OpenAI 및 기타 AI 선도 기업이 자체 특수 하드웨어를 개발함에 따라 관련성을 유지하기 위해 제공 서비스를 지속적으로 업데이트해야 한다. 이러한 과제에도 불구하고 Cirrascale의 틈새 집중과 유연한 모델은 진화하는 AI 클라우드 시장에서 성장을 위한 견고한 기반을 제공한다.