Databricks Mosaic指的是生成式AI公司MosaicML，该公司于2023年6月被Databricks以14亿美元收购。MosaicML专注于构建用于训练和部署大语言模型（LLM）的高效系统，提供平台使组织能够使用自有数据创建定制AI模型。此次收购将MosaicML的技术整合到Databricks的湖仓一体架构中，为其数据智能平台奠定了基础，并增强了其生成式AI能力。
MosaicML以其开源模型闻名，包括MPT（Mosaic预训练Transformer），这些模型旨在为企业提供高性价比和易访问性。该公司的工具允许用户大规模训练、微调和提供LLM服务，满足了对私密和可定制AI解决方案日益增长的需求。收购后，Databricks利用MosaicML的专业知识开发了Dolly等产品，这是一个拥有60亿参数的开源语言模型，并将来自OpenAI和Anthropic等提供商的第三方模型集成到其平台中。
背景与创立
MosaicML于2021年由Naveen Rao和Hanlin Tang创立，两人在AI和硬件领域均有丰富经验。Rao曾联合创立Nervana Systems，一家于2016年被英特尔收购的深度学习硬件初创公司。Tang曾在英特尔工作，并拥有神经科学博士学位。公司总部位于加利福尼亚州旧金山，并凭借其专注于使LLM训练更加高效和低成本而迅速受到关注。
这家初创公司从风险投资公司筹集了大量资金，包括2022年由Tiger Global Management领投的6400万美元B轮融资。MosaicML的平台基于机器学习原理，强调分布式训练和优化技术，以减少大规模模型所需计算资源。
技术与产品
MosaicML的核心产品是面向LLM训练和部署的托管服务，支持如Transformer等流行架构。该平台包括数据准备、模型训练和推理工具，全部设计在来自Amazon Web Services、Microsoft Azure以及Google Cloud等提供商的云基础设施上运行。
MosaicML的突出创新之一是开源模型MPT（Mosaic Pretrained Transformers），该系列包括MPT-7B和MPT-30B。这些模型于2023年发布，最终通过高效训练技术达到了与更大型专有模型相竞争的性能。MosaicML还开发了基于PyTorch的神经网络训练库Composer，以及一个支持高效数据加载的数据流库Streaming。
Databricks的收购
2023年6月，Databricks宣布计划以13亿美元收购MosaicML，交易于当年晚些时候完成。这次收购是Databricks扩展其人工智能能力的战略的一部分，尤其在生成式AI领域。Databricks将MosaicML的技术整合到其lakehouse平台，使客户能够在其数据工作负载分析基础上构建和部署自定义LLM。
收购还促成了Databricks数据智能平台的开发，该平台结合数据管理与训练和部署AI模型的能力。MosaicML的训练工具被重新命名为Databricks的功能，同时公司继续以MPT名称发布开源模型。
影响与遗产
MosaicML被Databricks收购是AI行业的一次重大事件，凸显了高效LLM训练的重要性，以及数据平台整合生成式AI的趋势。该技术使Databricks能够在企业专有数据上提供安全的环境，实行AI模型训练，这是其区别于Google DeepMind和OpenAI等竞争对手的关键优势。
在Databricks旗下，MosaicML的遗产通过Dolly等产品以及来自Anthropic和OpenAI的模型集成到Databricks平台中得以延续。此次收购还影响了Databricks的财务增长，助力其估值到2026年7月达到1880亿美元，此前Coating Management领投了30亿美元融资轮。
MosaicML对开源模型和高效训练方法的专注继续在AI社区产生深远影响，鼓励对LLM技术的更广泛访问，并促进了模型优化领域的创新。