SambaNova Systems, Inc.是一家美国人工智能（AI）和半导体硬件公司。该公司设计并制造名为可重构数据流单元（RDU）的硬件加速器，这些加速器针对深度学习模型和生成式AI应用进行了调整。SambaNova成立于2017年，已将自己定位为全栈AI计算解决方案的提供商，将定制处理器与用于模型训练和推理的软件平台相结合。
该公司的技术瞄准了对高效AI基础设施日益增长的需求，特别是大规模神经网络部署。SambaNova的方法不同于传统的基于GPU的系统，它采用可重构数据流架构，旨在同时优化数据移动和计算。这种设计旨在解决传统AI加速器中常常限制性能的内存带宽瓶颈。
历史
SambaNova于2017年11月由Kunle Olukotun、Christopher Ré和Rodrigo Liang共同创立。该实体的技术基础源于获得国防高级研究计划局（DARPA）资助的机器学习系统微处理阵列研究。Olukotun是斯坦福大学教授，带来了计算机架构和并行处理方面的专业知识，而Ré则专注于机器学习系统和数据管理。Liang曾任甲骨文和Sun Microsystems高管，担任首席执行官一职。
在2018年至2021年间，SambaNova筹集了约11亿美元，到2021年4月估值达到51亿美元。这些融资轮次包括主要风险投资公司和战略投资者的参与，反映出市场对AI专用硬件的浓厚兴趣。在此期间，该公司的估值增长与AI基础设施投资的更广泛繁荣并行。
在2020年代初，该公司还推出了基于云的AI服务和推理平台。这一举措使客户无需购买本地系统即可访问SambaNova的硬件，将潜在用户群扩展到大型企业和研究机构之外。2023年，它推出了SN40L可重构数据流单元（RDU），这是一款用于AI模型和推理工作负载的处理器。SN40L代表了显著的代际飞跃，具有更大的内存容量并支持更大的模型规模。
2024年，SambaNova Suite被《时代》杂志列入其年度最佳发明榜单，并在2026年入选《福布斯》AI 50榜单。这些认可凸显了该公司在竞争激烈的AI硬件市场中日益增长的知名度，该市场中它与老牌厂商以及其他初创公司如Groq展开竞争。
技术
SambaNova开发基于可重构数据流架构的AI计算系统，该架构面向机器学习和生成式AI应用。与固定功能加速器不同，RDU可以在运行时重新配置，以匹配不同Neural network模型的特定数据流模式。这种灵活性旨在适应AI架构的快速演进，从基于Transformer (architecture)的Large language model到卷积网络。
其硬件平台围绕可重构数据流单元（RDU）构建，这是一种旨在改善AI工作负载数据移动和计算的处理器架构。RDU集成了大型片上存储器和可动态连接的处理单元网格。这种设计减少了对独立存储器和计算单元之间数据移动的需求，而这是传统冯·诺依曼架构中的关键瓶颈。
该公司提供用于AI推理和模型部署的云和本地系统。软件栈包括SambaNova Suite，它提供了模型编译、优化和服务的工具。这种集成方法旨在简化Deep learning模型的部署，减少实现高性能所需的工程工作量。
SambaNova的技术特别关注推理工作负载，其中延迟和吞吐量至关重要。该公司声称，其系统可以在Generative AI任务上提供有竞争力的性能，同时比同等GPU集群消耗更少的电力。这种效率通过数据流架构实现，该架构消除了与基于指令的处理器相关的许多开销。
研究与超算部署
SambaNova计算硬件平台已被用于公共研究实验室和超算中心，以测试科学计算的可替代加速模型。这些部署为技术在要求严苛的非商业环境中的有效性提供了宝贵验证。
美国能源部下属的阿贡国家实验室将SambaNova计算框架集成到其位于阿贡领导力计算设施（ALCF）的专用AI测试平台中。阿贡的研究人员使用该系统探索材料科学、气候建模和生物学中的应用，并将其性能与传统HPC资源进行比较。
在日本，理化学研究所计算科学中心（R-CCS）部署了SambaNova系统，与“富岳”超级计算机并行运行。这种集成使研究人员能够将AI特定工作负载卸载到SambaNova硬件上，而“富岳”则处理更通用的模拟任务。合作重点集中在药物发现和个性化医疗等领域，其中AI模型可以加速对大型数据集的分析。
SambaNova的技术也用于较新的AI推理项目，包括Vector Core Compute和OVHcloud，以支持其AI Endpoints平台。这些合作展示了该公司将其硬件嵌入第三方云产品的策略，从而触达偏好与成熟云提供商合作的客户。
竞争格局
AI硬件市场竞争激烈，主要科技公司和初创公司争夺市场份额。Nvidia凭借其GPU主导训练领域，而AMD和Intel则开发了竞争性加速器。Google Cloud提供自己的张量处理单元，Amazon Web Services则为云客户推出了AWS Trainium芯片。
在初创公司中，Groq采用了类似的基于数据流的方法，专注于超低延迟推理。Graphcore开发了智能处理单元（IPU），随后于2024年退出市场。SambaNova通过其全栈产品实现差异化，将硬件与支持广泛模型的成熟软件平台相结合。
该公司对可重构架构的关注使其区别于固定功能设计。这种灵活性在AI模型快速演进、新架构不断涌现的背景下尤为重要。SambaNova的系统可以重新配置以支持新型层类型和注意力机制，而无需更改硬件。
软件与开发者生态系统
SambaNova提供软件开发工具包，使研究人员和工程师能够将模型移植到其硬件上。编译器自动将高级模型定义映射到RDU的数据流图上，处理算子融合和内存分配等优化。这种自动化减少了对手动内核调优的需求，而这在GPU编程中通常是必需的。
SambaNova Suite包括常见模型系列的预优化实现，包括基于Transformer (architecture)的架构，如BERT和GPT风格模型。这种库方法加速了采用生成式AI的组织的部署时间。该套件还支持Model Pruning和量化技术，以提高推理效率。
2024年，该公司推出了SambaNova Cloud，这是一项提供对其硬件API访问的托管服务。该产品面向希望运行Large language model而无需管理基础设施的开发者。该云服务支持流行的开源模型，并允许在自定义数据集上进行微调。
公司战略与融资
SambaNova的商业模式将硬件销售与云订阅服务相结合。该公司瞄准需要专用AI计算能力的大型企业、政府机构和研究机构。其本地系统专为具有严格数据治理要求的组织设计，而云服务则吸引较小的团队。
该公司已筹集了大量风险投资，投资者包括贝莱德、英特尔资本和GV（原谷歌风投）。这种财务支持使公司能够在芯片设计和软件开发方面进行大量投资。截至2026年，SambaNova仍为私有持有，没有宣布首次公开募股的计划。
SambaNova还进行了国际扩张，在欧洲和亚洲建立了合作伙伴关系。在日本理化学研究所的部署以及与欧洲云提供商的合作反映了这一全球战略。该公司在扩大制造和支持运营以满足日益增长的需求方面面临挑战。
未来方向
展望未来，SambaNova可能会专注于提高日益庞大模型的推理效率。向Mixture of experts架构和更长上下文窗口发展的趋势为基于数据流的系统带来了机遇和挑战。该公司还可能探索与新兴内存技术的集成，以进一步减少数据移动瓶颈。
随着Artificial intelligence在各行业的采用持续增长，对专用硬件的需求预计将增加。SambaNova的可重构方法在模型架构仍在演变的市场中可能具有优势。然而，该公司必须继续展示相对于老牌芯片制造商快速改进产品的性能和成本优势。
AI硬件市场的竞争动态仍然不稳定，新进入者和技术转变频繁发生。SambaNova的成功将取决于其能否保持技术领先地位，同时在这个资本密集型行业中建立可持续的商业模式。