SambaNova Systems, Inc.是一家美国人工智能（AI）和半导体硬件公司，设计并制造被称为可重构数据流单元（RDU）的硬件加速器，这些加速器针对深度学习模型和生成式AI应用进行了调整。该公司专注于提供基于云和本地的计算系统，用于AI推理和模型部署，旨在提高AI工作负载的数据移动和计算效率。
SambaNova成立于2017年11月，已发展成为AI硬件领域的重要参与者，筹集了大量资金，并将其技术部署在研究实验室和商业云平台中。其基于可重构数据流的架构使其区别于传统的基于GPU的方法，为寻求运行大规模AI模型的组织提供了一种替代方案。
历史
SambaNova于2017年11月由Kunle Olukotun、Christopher Ré和Rodrigo Liang共同创立。该实体的技术基础源自于获得美国国防高级研究计划局（DARPA）资助的机器学习系统微处理器阵列研究。创始团队带来了学术界和工业界的专业知识，其中Olukotun是斯坦福大学的教授，Ré在同一机构担任教授，而Liang则拥有行业经验。
在2018年至2021年间，SambaNova筹集了约11亿美元，到2021年4月估值达到51亿美元。这笔资金支持了其硬件和软件栈的开发。在2020年代初期，该公司开始提供基于云的AI服务和推理平台，将其业务范围扩展到硬件销售之外。
2023年，SambaNova推出了SN40L可重构数据流单元（RDU），这是一款专为AI模型和推理工作负载设计的处理器。这款芯片代表了公司技术路线图上的重要一步，瞄准了对生成式AI推理日益增长的需求。
2024年，Time将SambaNova Suite列入其年度最佳发明名单，认可了该公司的软件平台。2026年，它被列入Forbes AI 50，突显了其在AI行业中的持续相关性。
技术
SambaNova开发基于可重构数据流架构的AI计算系统，旨在用于机器学习和生成式AI应用。与传统处理器顺序执行指令不同，RDU被设计为动态配置其数据路径，针对特定AI工作负载优化数据流。这种方法旨在减少数据移动的开销，而数据移动通常是AI计算中的瓶颈。
硬件平台围绕可重构数据流单元（RDU）构建，这是一种旨在改善AI工作负载数据移动和计算的处理器架构。RDU可以被编程以支持各种神经网络模型，包括大型语言模型和其他深度学习架构。
该公司提供用于AI推理和模型部署的云和本地系统。其软件栈SambaNova Suite提供了用于模型训练、微调和推理的工具，旨在简化AI应用的部署。
研究与超级计算
SambaNova计算硬件平台已被用于公共研究实验室和超级计算中心，以测试科学计算的替代加速模型。美国能源部阿贡国家实验室将SambaNova计算框架集成到其位于阿贡领导力计算设施（ALCF）的专门AI测试平台中。这种集成使研究人员能够探索RDU在科学工作负载中的能力。
在日本，理化学研究所计算科学研究中心（R-CCS）部署了SambaNova系统，与Fugaku超级计算机协同运行。此次部署旨在评估RDU在高性能计算环境中的性能，可能补充传统的CPU和GPU资源。
这些合作展示了SambaNova对研究社区的关注，为AI驱动的科学发现提供了主流加速器的替代方案。
商业部署
SambaNova的技术也用于较新的AI推理项目，包括Vector Core Compute和OVHcloud，以支持其AI Endpoints平台。这些合作伙伴关系使云提供商能够向其客户提供基于SambaNova的推理服务，扩大了RDU架构的覆盖范围。
该公司的商业策略包括直接向企业销售以及与云服务提供商合作，使客户无需投资本地基础设施即可更广泛地采用其硬件。
融资与增长
SambaNova吸引了来自风险投资公司和战略投资者的重大投资。2018年至2021年间筹集的资金总额约为11亿美元，支持了公司的研发工作以及云服务的扩展。截至2021年4月，51亿美元的估值使SambaNova跻身于最有价值的AI硬件初创公司之列。
该公司的增长受到AI推理需求日益增加的推动，特别是对大型语言模型和其他生成式AI应用的需求。随着组织寻求高效运行这些模型的方法，SambaNova的可重构架构在性能和能效方面提供了潜在优势。
竞争格局
SambaNova在一个竞争激烈的市场中运营，其中包括NVIDIA和AMD等老牌企业，以及Groq和Graphcore等其他初创公司。虽然NVIDIA的GPU主导着AI训练市场，但SambaNova通过专注于推理及其可重构数据流架构来使自己与众不同，该架构可以针对特定模型进行定制。
该公司的做法经常与Groq进行比较，后者也开发专注于推理的AI加速器。然而，SambaNova的RDU更加灵活，允许重新编程以支持不同的模型架构，而Groq的芯片则更为专业化。
未来方向
展望未来，SambaNova旨在继续改进其RDU架构和软件栈，以跟上AI模型不断变化的需求。该公司可能会扩大其云服务，并与研究机构和云提供商建立更多合作伙伴关系。
截至2024年，SambaNova尚未公开披露未来芯片世代的具体计划，但Time和Forbes的认可表明其产品正在获得关注。该公司在快速变化的AI硬件领域中的创新能力将对其长期成功至关重要。