MosaicML是一家专注于开发用于训练和部署大型语言模型及其他机器学习模型软件的人工智能公司。该公司以其开源库以及强调让深度学习对企业更易用、更具成本效益而闻名。其技术旨在减少训练神经网络所需的计算资源,使组织能够利用自身数据构建定制模型。
MosaicML成立于2021年,总部位于加利福尼亚州旧金山。公司的核心产品包括用于模型训练的MosaicML Composer库和用于部署的MosaicML Inference服务。这些工具支持多种模型架构,包括变换器,并设计为可在各种云平台上运行。2023年6月,MosaicML被数据与人工智能公司Databricks以约14亿美元收购,这标志着Databricks在生成式人工智能领域扩张的重要一步。
创立与早期发展
MosaicML由Naveen Rao和Hanlin Tang创立,两人此前曾从事人工智能硬件和软件方面的工作。Rao是前英特尔高管,Tang是前人工智能研究员,他们旨在解决训练大规模模型相关的高成本和复杂性。该公司迅速因其优化训练流程的创新方法而受到关注,例如高效的数据加载和模型架构调整。
在早期几年中,MosaicML发布了多个在机器学习社区中获得关注的开源工具。Composer库于2022年推出,提供了一系列训练方法和技巧,与标准方法相比,可将模型训练速度提升多达7倍。这是通过层归一化、梯度裁剪和课程学习等方法实现的,这些方法被集成到一个简单的API中。
技术与产品
MosaicML的技术核心在于提高深度学习的效率。该公司开发了一个训练平台,可在本地或云端部署,支持亚马逊网络服务、微软Azure和谷歌云等主要提供商。其关键产品MosaicML Composer提供了一个灵活的神经网络训练框架,并内置了优化功能。
该公司还提供MosaicML Inference服务,用于大规模部署训练好的模型。该服务支持多种模型类型,包括大型语言模型,并提供低延迟响应和成本管理等功能。MosaicML的方法使企业能够在其专有数据上微调模型,满足了OpenAI或Anthropic等提供商通用模型难以满足的隐私和定制需求。
被Databricks收购
2023年6月,Databricks宣布计划以14亿美元收购MosaicML。收购于同年晚些时候完成,将MosaicML的团队和技术整合到Databricks平台中。此举是Databricks增强其生成式人工智能能力战略的一部分,使客户能够在Databricks环境中构建和部署定制的大型语言模型。
此次收购被视为对日益增长的企业人工智能解决方案需求的回应。通过整合MosaicML的工具,Databricks旨在提供一个更全面的数据智能平台,将其湖仓架构与先进的模型训练和部署能力相结合。这一整合使Databricks能够支持开源模型,并提供专有系统的替代方案,让客户对其人工智能项目拥有更多控制权。
影响与遗产
MosaicML的影响超越了其被收购本身。其开源贡献,尤其是Composer库,继续被机器学习社区的开发者和研究人员使用。该公司对效率的关注帮助推广了降低训练成本的技术,这些技术随着模型规模和复杂性的增长而变得越来越重要。
收购完成后,MosaicML的技术成为Databricks人工智能产品的基础组成部分。这些工具被整合到Databricks平台中,使用户能够在安全且受管理的环境中利用自身数据训练和部署模型。这一遗产促进了Databricks的增长,其估值在2024年12月升至620亿美元,并在2025年12月进一步升至1340亿美元,部分原因是生成式人工智能解决方案的需求推动。