Databricks MosaicML 是 Databricks 的生成式 AI 部门，Databricks 是一家总部位于加利福尼亚州旧金山的美国数据与人工智能软件公司。它源自 MosaicML，一家成立于 2021 年的初创公司，开发了用于训练、微调和部署大型语言模型（LLM）及其他深度学习模型的平台。Databricks 于 2023 年 6 月以 14 亿美元收购了 MosaicML，并将其技术整合到 Databricks 数据智能平台中，为客户提供基于自身数据构建定制生成式 AI 模型的工具。
MosaicML 平台以其在训练大型神经网络时注重效率和成本降低而闻名。它包括 MosaicML Composer 库，该库实现了诸如课程学习、梯度裁剪和层归一化等技术以加速训练，以及 MosaicML LLM Foundry，一套用于训练、微调和部署 LLM 的工具。收购后，Databricks 将这些产品重新命名为 Databricks MosaicML，并将其定位为其托管 AI 基础设施的核心组件。
历史
MosaicML 由 Naveen Rao、Hanlin Tang 和 Jonathan Frankle 于 2021 年创立。Rao 此前曾共同创立 Nervana Systems，一家于 2016 年被英特尔收购的深度学习硬件初创公司。该公司旨在通过让企业更容易、更经济地训练大规模模型，从而实现大规模模型训练的民主化。2021 年 10 月，MosaicML 在由 Addition 领投的 A 轮融资中筹集了 3700 万美元，Future Ventures 等参投。
2022 年，MosaicML 发布了 MosaicML Composer 库，该库引入了一套训练方法，可将训练深度学习模型的成本降低高达 50%。该公司还推出了 MosaicML Cloud，一项用于在云基础设施上训练和部署模型的托管服务。到 2023 年初，MosaicML 因其开源模型而受到关注，其中包括 MPT-7B，一个于 2023 年 5 月发布的 70 亿参数基于 Transformer 的 LLM。MPT-7B 因其与 LLaMA-7B 等更大模型相比具有显著性能而备受瞩目，并且它是在 1 万亿个令牌的数据集上训练的。
2023 年 6 月，Databricks 宣布有意以 14 亿美元收购 MosaicML。该收购于 2023 年 7 月完成，MosaicML 成为 Databricks 的全资子公司。这笔交易是 Databricks 将其生成式 AI 能力整合到其湖仓一体架构（结合了数据仓库和数据湖的元素）战略的一部分。此次收购还将 MosaicML 的研究人员和工程师团队（包括其 CEO Naveen Rao，他成为 Databricks 的副总裁）纳入麾下。
收购后，Databricks 继续以 MosaicML 品牌开发和发布模型。2023 年 7 月，该公司发布了 MPT-30B，一个 300 亿参数的模型，同年晚些时候，推出了针对指令遵循进行微调的 MPT-7B-Instruct 和 MPT-30B-Instruct 变体。2023 年 11 月，Databricks 发布了 DBRX，一个使用 MosaicML 平台训练的 1320 亿参数的混合专家（MoE）模型。DBRX 旨在与 OpenAI、Anthropic 和 Google DeepMind 的模型竞争，并在 MMLU 和 HellaSwag 等基准测试中表现出色。
技术与平台
Databricks MosaicML 平台的核心概念是使企业能够基于自身数据训练和部署 LLM，以解决数据隐私和安全问题。它提供了一套与 Databricks 湖仓一体架构集成的工具，允许客户使用存储在 Delta Lake（一个为数据湖增加 ACID 事务支持的开源项目）中的现有数据。
该平台的关键组件包括：
- MosaicML Composer：一个开源库，实现了多种训练技术，包括课程学习、梯度裁剪和层归一化，以提高训练效率和模型质量。
- MosaicML LLM Foundry：一套用于训练、微调和部署 LLM 的工具，支持 Transformer 等流行架构以及跨多个 GPU 的分布式训练。
- MosaicML Inference：一项用于生产环境部署模型的服务，提供低延迟推理，并支持批处理和量化。
这些工具旨在与主要云提供商（包括 Amazon Web Services、Microsoft Azure 和 Google Cloud Platform）协同工作。Databricks MosaicML 还支持使用专用硬件，例如 AWS Trainium 芯片和 Intel 处理器，以降低训练成本。
模型与研究
Databricks MosaicML 发布了多个开源模型，为生成式 AI 领域做出了贡献。MPT（Mosaic Pretrained Transformer）系列包括参数规模从 70 亿到 300 亿不等的模型，全部基于 Transformer 架构。这些模型在大规模文本语料库上训练，并用于文本生成、摘要和问答等任务。
2024 年，Databricks MosaicML 推出了 DBRX，一个 1320 亿参数的 MoE 模型，采用稀疏激活模式，以较低的计算成本实现高性能。DBRX 使用 MosaicML 平台训练，并以开源许可证发布，允许研究人员和开发者自由使用。
Databricks MosaicML 的研究团队还发表了关于高效训练方法、模型压缩以及数据质量对模型性能影响等主题的论文。他们与学术机构（包括加州大学伯克利分校和卡内基梅隆大学）合作，以推动深度学习领域的最新发展。
与 Databricks 平台的集成
Databricks MosaicML 已集成到更广泛的 Databricks 数据智能平台中，该平台包括 Lakebase 数据库（用于 AI 代理）、Lakeflow Designer（用于构建数据管道）和 Agent Bricks（用于开发 AI 代理）。这种集成允许客户直接在 Databricks 工作区内使用 MosaicML 的训练和推理能力，并利用存储在湖仓一体中的数据。
此集成的一个关键优势是能够在专有数据上微调 LLM，而无需将数据迁移到外部服务。这对于医疗保健和金融等具有严格数据治理要求的行业尤为重要。Databricks MosaicML 还支持模型部署以进行实时推理，从而支持聊天机器人和虚拟助手等应用。
2025 年，Databricks 通过与 OpenAI 和 Anthropic 合作，将其模型纳入平台，扩大了其生成式 AI 产品。然而，Databricks MosaicML 仍然是针对那些希望训练和控制自己模型的客户的独特产品。
商业与市场地位
Databricks MosaicML 与 Amazon Web Services（通过其 SageMaker 和 Trainium 产品）、Google Cloud（通过 Vertex AI）和 Microsoft Azure（通过 Azure Machine Learning）等其他 AI 基础设施提供商竞争。它还与 AI21 Labs 和 Inflection AI 等提供专有模型和 API 的初创公司竞争。
收购 MosaicML 是 Databricks 成为领先 AI 基础设施提供商这一更广泛战略的一部分。Databricks 报告了强劲的收入增长，2023 财年收入达到 16 亿美元。该公司还筹集了大量资金，包括 2024 年 12 月一轮 100 亿美元的融资（估值为 620 亿美元），以及 2025 年 12 月一轮 40 亿美元的 L 系列融资（估值为 1340 亿美元）。
影响与评价
Databricks MosaicML 因其对开源模型和成本效益训练的专注而受到 AI 社区的广泛好评。MPT-7B 和 DBRX 的发布因使高质量 LLM 更容易被更广泛的受众使用而备受赞誉。然而，一些批评者指出，这些模型可能无法与 OpenAI 或 Google DeepMind 的最大专有模型性能匹敌，并且该平台需要相当高的技术专长才能有效使用。
尽管面临这些挑战，Databricks MosaicML 已在企业 AI 市场确立了关键地位，并高度重视数据隐私和定制化。截至 2026 年，该平台持续发展，正在进行新训练方法和模型架构的研究。