Databricks Mosaicは、2023年6月にDatabricksが14億ドルで買収した生成AI企業MosaicMLを指します。MosaicMLは、大規模言語モデル（LLM）のトレーニングとデプロイのための効率的なシステム構築を専門としており、組織が自社データを使用してカスタムAIモデルを作成できるプラットフォームを提供していました。この買収により、MosaicMLの技術はDatabricksのレイクハウスアーキテクチャに統合され、Data Intelligence Platformの基盤を形成し、生成AI機能を強化しました。
MosaicMLは、MPT（Mosaic Pretrained Transformers）を含むオープンソースモデルで知られており、これらは企業にとってコスト効率が高くアクセスしやすいように設計されていました。同社のツールにより、ユーザーはLLMを大規模にトレーニング、ファインチューニング、および提供することができ、プライベートでカスタマイズ可能なAIソリューションへの高まる需要に対応しました。買収後、DatabricksはMosaicMLの専門知識を活用して、60億パラメータを持つオープンソース言語モデルであるDollyなどの製品を開発し、OpenAIやAnthropicなどのプロバイダーからのサードパーティモデルをプラットフォームに統合しました。
背景と設立
MosaicMLは2021年にNaveen RaoとHanlin Tangによって設立され、両者ともAIとハードウェアの分野で以前の経験を持っていました。Raoは以前、2016年にIntelに買収されたディープラーニングハードウェアスタートアップであるNervana Systemsを共同設立しました。TangはIntelで働いた経験があり、神経科学の博士号を取得していました。同社はカリフォルニア州サンフランシスコに本社を置き、LLMトレーニングをより効率的で手頃なものにすることに焦点を当てて急速に注目を集めました。
このスタートアップは、2022年にTiger Global Managementが主導した6400万ドルのシリーズBラウンドを含む、ベンチャーキャピタル企業から多額の資金を調達しました。MosaicMLのプラットフォームは機械学習の原則に基づいて構築され、大規模モデルに必要な計算リソースを削減する分散トレーニングと最適化技術を重視していました。
技術と製品
MosaicMLの中心的な提供物は、LLMのトレーニングとデプロイのためのマネージドサービスであり、Transformerなどの人気のあるアーキテクチャをサポートしていました。このプラットフォームには、データ準備、モデルトレーニング、および推論のためのツールが含まれており、すべてAmazon Web Services、Microsoft Azure、Google Cloudなどのプロバイダーからのクラウドインフラストラクチャ上で実行されるように設計されていました。
MosaicMLの主要な革新の1つは、オープンソースモデルファミリーであるMPTであり、MPT-7BとMPT-30Bが含まれていました。これらのモデルは2023年にリリースされ、効率的なトレーニング技術を通じて達成された、より大きなプロプライエタリモデルと比較して競争力のあるパフォーマンスで注目されました。MosaicMLはまた、ニューラルネットワークトレーニング用のPyTorchベースのライブラリであるComposerと、効率的なデータローディングを容易にするデータセットストリーミングライブラリであるStreamingも開発しました。
Databricksによる買収
2023年6月、DatabricksはMosaicMLを13億ドルで買収する意向を発表し、取引はその年の後半に完了しました。この買収は、特に生成AIの分野において、人工知能機能を拡大するというDatabricksのより広範な戦略の一部でした。DatabricksはMosaicMLの技術をレイクハウスプラットフォームに統合し、顧客がデータ分析ワークロードと並行してカスタムLLMを構築およびデプロイできるようにしました。
この買収はまた、データ管理とAIモデルのトレーニングおよび提供を組み合わせたDatabricksのData Intelligence Platformの開発につながりました。MosaicMLのツールはDatabricksの基盤モデルのトレーニングおよび提供機能としてブランド名が変更され、同社はMPTという名前でオープンソースモデルのリリースを継続しました。
影響と遺産
MosaicMLのDatabricksによる買収はAI業界における重要な出来事であり、効率的なLLMトレーニングの重要性の高まりと、データプラットフォームが生成AIを統合する傾向を浮き彫りにしました。この技術は、Databricksが企業にプロプライエタリデータでモデルをトレーニングするための安全な環境を提供する能力に貢献し、Google DeepMindやOpenAIなどの競合他社に対する重要な差別化要因となりました。
Databricksの下で、MosaicMLの遺産はDollyなどの製品や、AnthropicとOpenAIからのモデルのDatabricksプラットフォームへの統合を通じて継続されました。この買収はまた、Databricksの財務成長に影響を与え、2026年7月までにCoatue Managementが主導した30億ドルの資金調達ラウンドを経て、評価額が1880億ドルに達することに貢献しました。
MosaicMLのオープンソースモデルと効率的なトレーニング方法への焦点は、AIコミュニティに永続的な影響を与え、LLM技術へのより広範なアクセスを促進し、モデル最適化における革新を育みました。