Databricks Mosaic은 생성형 AI 기업인 MosaicML을 가리키며, 2023년 6월 Databricks가 14억 달러에 인수했습니다. MosaicML은 대규모 언어 모델(LLM)을 효율적으로 학습하고 배포하기 위한 시스템 구축을 전문으로 했으며, 조직이 자체 데이터를 사용하여 맞춤형 AI 모델을 만들 수 있는 플랫폼을 제공했습니다. 이 인수를 통해 Databricks는 MosaicML의 기술을 자사의 레이크하우스 아키텍처에 통합하여 데이터 인텔리전스 플랫폼의 기반을 마련하고 생성형 AI 기능을 강화했습니다.
MosaicML은 오픈소스 모델인 MPT(Mosaic Pretrained Transformers)로 잘 알려져 있으며, 이 모델들은 기업이 비용 효율적으로 사용할 수 있도록 설계되었습니다. 이 회사의 도구는 사용자가 대규모 언어 모델을 학습, 미세 조정 및 서비스할 수 있게 해주었으며, 점점 더 중요해지는 프라이빗하고 맞춤화된 AI 솔루션에 대한 수요를 해결했습니다. 인수 이후 Databricks는 MosaicML의 전문성을 활용하여 60억 개의 매개변수를 가진 오픈소스 언어 모델인 Dolly와 같은 제품을 개발했으며, OpenAI 및 Anthropic과 같은 제공업체의 타사 모델을 플랫폼에 통합했습니다.
배경 및 설립
MosaicML은 2021년 Naveen Rao와 Hanlin Tang에 의해 설립되었으며, 두 사람 모두 AI 및 하드웨어 분야에서 풍부한 경험을 가지고 있었습니다. Rao는 이전에 딥러닝 하드웨어 스타트업인 Nervana Systems를 공동 설립했으며, 이후 2016년 Intel에 인수되었습니다. Tang은 Intel에서 근무했으며 신경과학 박사 학위를 보유하고 있습니다. 회사는 캘리포니아주 샌프란시스코에 본사를 두었으며, LLM 학습을 더욱 효율적이고 저렴하게 만드는 데 중점을 두면서 빠르게 주목을 받았습니다.
이 스타트업은 여러 벤처 캐피털 기업으로부터 상당한 자금을 유치했습니다. 특히 2022년에는 Tiger Global Management가 주도한 6,400만 달러 규모의 시리즈 B 라운드를 포함하여 총 1억 달러 이상을 모금했습니다. MosaicML의 플랫폼은 분산 학습 및 최적화 기술을 강조하는 머신러닝 원칙을 기반으로 구축되었으며, 이를 통해 대규모 모델 학습에 필요한 컴퓨팅 리소스를 크게 줄일 수 있었습니다.
기술 및 제품
MosaicML의 핵심 제품은 LLM 학습 및 배포를 위한 관리형 서비스였으며, Transformer와 같은 인기 있는 아키텍처를 지원했습니다. 이 플랫폼에는 데이터 준비, 모델 학습 및 추론을 위한 도구가 포함되어 있었으며, Amazon Web Services, Microsoft Azure 및 Google Cloud와 같은 클라우드 인프라에서 원활하게 실행되도록 설계되었습니다.
MosaicML의 주요 혁신 중 하나는 오픈소스 모델 제품군인 MPT였습니다. 여기에는 MPT-7B 및 MPT-30B가 포함되었으며, 2023년에 출시되어 더 크고 독점적인 모델과 비교하여 경쟁력 있는 성능을 보여주었습니다. 또한 이 회사는 PyTorch 기반 신경망 학습 라이브러리인 Composer와 효율적인 데이터 로딩을 가능하게 하는 데이터셋 스트리밍 라이브러리인 Streaming을 개발했습니다.
Databricks에 의한 인수
2023년 6월, Databricks는 MosaicML을 13억 달러에 인수할 계획을 발표했으며, 거래는 같은 해 말에 완료되었습니다. 이 인수는 생성형 AI 분야, 특히 기업용 맞춤형 AI 솔루션 분야에서 Databricks의 역량을 확장하기 위한 광범위한 전략의 일환이었습니다. Databricks는 MosaicML의 기술을 자사의 레이크하우스 플랫폼에 통합하여 고객이 데이터 분석 워크로드와 함께 맞춤형 LLM을 구축하고 배포할 수 있도록 했습니다.
이 인수를 통해 Databricks는 데이터 관리와 AI 모델 학습 및 서비스를 결합한 데이터 인텔리전스 플랫폼을 개발할 수 있었습니다. MosaicML의 도구는 Databricks의 기반 모델 학습 및 서비스 기능으로 브랜드가 변경되었으며, 회사는 MPT라는 이름으로 오픈소스 모델을 계속 출시했습니다.
영향 및 유산
MosaicML의 Databricks 인수는 AI 업계에서 중요한 사건이었으며, 효율적인 LLM 학습의 중요성과 데이터 플랫폼이 생성형 AI를 통합하는 추세를 강조했습니다. 이 기술은 기업이 독점 데이터로 모델을 학습할 수 있는 보안 환경을 제공함으로써 Databricks가 Google DeepMind 및 OpenAI와 같은 경쟁사와 차별화되는 데 기여했습니다.
Databricks는 MosaicML의 유산을 통해 Dolly와 같은 제품을 개발하고 OpenAI 및 Anthropic의 모델을 플랫폼에 통합했습니다. 또한 이 인수는 Databricks의 재무 성장에도 영향을 미쳐, 2026년 7월까지 기업 가치가 1,880억 달러에 도달하는 데 기여했으며, Coatue Management가 주도한 30억 달러 규모의 자금 조달 라운드 이후에 이루어졌습니다. MosaicML의 오픈소스 모델과 효율적인 학습 방법에 대한 집중은 AI 커뮤니티에 지속적인 영향을 미치며, 더 넓은 범위의 조직이 LLM 기술에 접근하고 모델 최적화의 혁신을 촉진했습니다.