Modal은 AI 및 머신러닝 워크로드를 위해 설계된 서버리스 클라우드 플랫폼이다. 이 플랫폼은 개발자가 서버를 관리하지 않고도 클라우드에서 코드를 실행할 수 있게 하는 인프라 계층을 제공하며, 수요에 따라 자동으로 확장된다. 모델 훈련, 미세 조정, 추론과 같은 작업에 최적화되어 있으며, PyTorch 및 TensorFlow와 같은 인기 있는 프레임워크를 지원한다.
2021년에 설립된 Modal은 인공지능 애플리케이션을 위한 유연하고 비용 효율적인 컴퓨팅에 대한 증가하는 필요성에서 출발했다. 이 회사는 캘리포니아주 샌프란시스코에 본사를 두고 있으며, 클러스터 관리의 복잡성을 추상화하는 개발자 친화적인 클라우드 컴퓨팅 접근 방식으로 주목을 받았다.
아키텍처 및 기능
Modal의 아키텍처는 서버리스 함수 개념을 기반으로 구축되었으며, 사용자는 컴퓨팅 작업을 격리된 컨테이너에서 실행되는 함수로 정의한다. 플랫폼은 리소스 할당, 자동 확장, 부하 분산을 처리하여 사용자가 소규모 프로토타입부터 대규모 분산 워크로드까지 작업을 실행할 수 있게 한다. 주요 기능으로는 Python SDK, GPU 인스턴스 지원(NVIDIA 및 AMD GPU 포함), 배치 처리를 위한 내장 작업 스케줄러가 있다. Modal은 또한 여러 노드에 걸쳐 작업을 병렬화할 수 있는 분산 컴퓨팅 계층을 제공하여 대규모 언어 모델 및 기타 컴퓨팅 집약적 모델 훈련에 적합하다.
사용 사례
Modal은 다양한 AI 영역에서 사용된다. 머신러닝에서는 실험 추적 및 하이퍼파라미터 튜닝을 위한 플랫폼으로 활용된다. 딥러닝 실무자에게는 고성능 GPU에 대한 온디맨드 액세스를 제공하여 전용 하드웨어의 필요성을 줄인다. 이 플랫폼은 또한 생성형 AI 모델(예: 트랜스포머 기반 아키텍처)을 배포하고 신경망 훈련에 공급되는 데이터 파이프라인을 실행하는 데 인기가 있다. 의료, 금융, 자율주행 차량과 같은 분야의 기업들은 확장성과 기존 워크플로우와의 쉬운 통합 덕분에 Modal을 채택했다.
다른 클라우드 제공업체와의 비교
Modal은 아마존 웹 서비스, 구글 클라우드, 애저와 같은 전통적인 클라우드 제공업체와 경쟁하지만, 더 전문화되고 개발자 중심적인 경험을 제공함으로써 차별화한다. 일반 목적의 클라우드와 달리 Modal의 서버리스 모델은 사용자가 소비한 컴퓨팅 시간에 대해서만 비용을 지불할 수 있게 하여 가상 머신 관리의 오버헤드를 피한다. 또한 인기 있는 AI 도구 및 프레임워크와 통합되며 작업 실행을 위한 더 간단한 API를 제공한다. 그러나 대형 클라우드와 동일한 수준의 서비스 폭을 제공하지 않을 수 있으며, 일부 사용자는 코어웨이브나 세레브라스와 같은 제공업체가 제공하는 전용 인스턴스의 제어를 선호할 수도 있다.
자금 및 성장
Modal은 2022년 시리즈 A 라운드와 2023년 시리즈 B 라운드를 포함하여 벤처 캐피털 회사로부터 상당한 자금을 조달했다. 이 회사는 스타트업과 기업 전반에 걸쳐 고객 기반을 확장했으며, AI 인프라에 대한 증가하는 수요를 지원하기 위해 팀을 확대했다. 2024년 현재 Modal은 대규모 언어 모델 추론 지원 개선 및 오픈AI 및 앤트로픽 API와의 통합과 같은 기능을 추가하며 플랫폼을 지속적으로 개선하고 있다.
향후 방향
앞으로 Modal은 지연 시간과 비용을 줄이는 데 초점을 맞춰 프로덕션 환경에서 AI 모델 배포를 더욱 간소화하는 것을 목표로 한다. 이 회사는 엔비디아 및 AMD와 같은 하드웨어 공급업체와의 파트너십을 모색하여 성능을 최적화하고 있으며, 모델 모니터링 및 관측 가능성을 위한 도구에 투자하고 있다. AI 산업이 진화함에 따라 Modal은 머신러닝 혁신을 지원하는 인프라 계층에서 핵심적인 역할을 할 준비가 되어 있다.