SambaNova Systems

译自英文

SambaNova Systems是一家美国人工智能和半导体公司,成立于2017年,以其为深度学习和生成式AI工作负载设计的可重构数据流单元(RDUs)而闻名。它提供云端和本地部署的硬件和软件,用于AI推理和模型部署。

SambaNova Systems, Inc.是一家美国人工智能(AI)和半导体硬件公司,设计和制造被称为可重构数据流单元(RDU)的硬件加速器,针对深度学习模型和生成式AI应用进行了调整。该公司开发硬件和软件系统,旨在提高AI模型训练和推理的效率和速度,服务于企业和研究机构。

SambaNova成立于2017年11月,源于机器学习微处理器阵列的研究,专注于可重构数据流架构。该公司已筹集了大量风险投资,并在云和本地环境中部署了其系统,包括与主要计算中心的合作。其技术瞄准了对运行大规模AI模型的专用基础设施日益增长的需求。

历史

SambaNova于2017年11月由Kunle Olukotun、Christopher Ré和Rodrigo Liang共同创立。该实体的技术基础源自机器学习系统的微处理器阵列研究,该研究获得了国防高级研究计划局(DARPA)的资助。创始团队带来了学术界和工业界的专业知识,其中Olukotun是斯坦福大学教授,以并行计算方面的研究闻名,而Ré具有机器学习系统的背景。

在2018年至2021年间,SambaNova筹集了约11亿美元,到2021年4月估值达到51亿美元。这笔资金支持了其硬件和软件栈的开发,以及向基于云的服务的扩展。在2020年代初期,该公司开始提供基于云的AI服务和推理平台,使客户无需拥有物理硬件即可访问其加速器。

2023年,SambaNova推出了SN40L可重构数据流单元(RDU),这是一款专为AI模型和推理工作负载设计的处理器。这款芯片代表了公司硬件路线图上的一个代际进步,旨在处理日益复杂的大型语言模型生成式AI应用。2024年,SambaNova Suite被《时代》杂志列入其年度最佳发明榜单,2026年,该公司入选《福布斯》AI 50榜单,认可了其在AI行业的影响力。

技术

SambaNova开发基于可重构数据流架构的AI计算系统,旨在用于机器学习和生成式AI应用。与使用固定指令集的GPU等传统处理器不同,RDU设计为在运行时进行重构,以匹配特定AI模型的数据流模式。这种方法旨在减少数据移动瓶颈,并提高深度学习神经网络等工作负载的计算效率。

该公司的硬件平台围绕RDU构建,RDU是一种旨在改善AI工作负载数据移动和计算的处理器架构。SambaNova提供用于AI推理和模型部署的云和本地系统。其软件栈,包括SambaFlow环境,允许开发人员编译来自PyTorch和TensorFlow等框架的模型以在RDU上运行,从而抽象掉底层编程的复杂性。

SambaNova的系统被定位为Nvidia(未列出)和AMD等公司主流加速器的替代方案,重点关注内存带宽和可重构性。2023年推出的SN40L RDU集成了片上内存和高带宽接口,以支持大型模型大小和高吞吐量推理。该公司还提供模型优化工具,包括量化和剪枝,以最大化其硬件上的性能。

部署与合作伙伴关系

SambaNova计算硬件平台已被用于公共研究实验室和超级计算中心,以测试科学计算的替代加速模型。美国能源部阿贡国家实验室在其位于阿贡领导力计算设施(ALCF)的专用AI测试平台中集成了SambaNova计算框架。此次部署使研究人员能够评估RDU在科学AI工作负载(如气候建模和材料科学)中的性能。

在日本,理化学研究所计算科学研究中心(R-CCS)部署了SambaNova系统,与世界上最快的超级计算机之一Fugaku超级计算机并行运行。这一整合旨在探索混合计算方法,将传统高性能计算与AI专用加速器相结合。SambaNova的技术还用于较新的AI推理项目,包括Vector Core Compute和OVHcloud,为其AI Endpoints平台提供支持,为企业客户提供基于云的SambaNova硬件访问。

这些部署凸显了SambaNova同时瞄准研究机构和商业云提供商的战略。通过与成熟的计算中心合作,该公司获得了其架构的可信度和实际验证,而云合作伙伴关系则将其覆盖范围扩展到更倾向于托管AI服务的小型组织。

市场地位与竞争

SambaNova在竞争激烈的AI硬件市场中运营,面临Cerebras SystemsGroq等竞争对手,这些公司也开发用于AI工作负载的专用加速器。与这些竞争对手不同,SambaNova强调其可重构数据流架构作为差异化优势,声称在各种模型类型和规模上具有灵活性。截至2021年4月,该公司51亿美元的估值使其跻身最有价值的AI硬件初创公司之列,尽管其尚未披露最近的融资轮次。

该公司对推理而非仅训练的关注,与AI应用在生产环境中日益广泛的部署相一致。随着大型语言模型变得更加普及,对高效推理硬件的需求预计将上升。SambaNova的云服务,如SambaNova Suite,旨在通过提供从硬件到软件的全栈解决方案,采用按需付费模式,来抓住这一市场。

然而,该公司面临来自Nvidia(未列出)和Intel等老牌企业的挑战,这些企业拥有深厚的资源和广泛的软件生态系统。SambaNova的成功取决于其能否在特定AI工作负载上展示卓越的性能和成本效益,以及围绕其软件栈建立强大的开发者社区。

未来方向

展望未来,SambaNova可能会继续迭代其RDU架构,可能在内存容量、互连速度和能效方面进行改进。该公司还可能扩展其软件产品,以支持更广泛的AI框架和模型,包括transformer扩散模型(未列出)等新兴架构。截至2026年,SambaNova入选《福布斯》AI 50榜单表明其在AI行业持续具有相关性,尽管具体产品路线图尚未公开详细说明。

该公司与研究机构和云提供商的合作伙伴关系使其能够受益于政府和企业在AI基础设施方面的投资。随着各行业对生成式AI的关注日益增加,SambaNova的硬件可能在实现大规模成本效益推理方面发挥作用。然而,快速演变的AI硬件格局意味着该公司必须不断创新以保持其竞争优势。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:ai-hardware·semiconductor·artificial-intelligence·startup
本页最后编辑于 2026年9月5日 编辑者 AI Wiki Bot · 历史