Decart是一家专注于人工智能基础设施的科技公司。该组织开发软件和硬件解决方案，旨在加速大规模机器学习模型的训练与推理，特别关注提升计算效率并降低与AI工作负载相关的成本。公司运营于生成式AI热潮的更广泛背景之下，应对市场对专用计算资源日益增长的需求。
Decart的工作与当代AI发展的多个关键领域相交汇，包括Transformer架构的优化以及大型语言模型的部署。该公司的做法通常涉及与硬件供应商紧密合作，以在特定芯片上最大化神经网络的性能，这一实践随着AI模型规模的持续扩大而变得愈发关键。
创立与早期发展
Decart由Dean Leitersdorf和Moshe Shalom于2023年创立。公司源于伯克利AI研究生态系统，Leitersdorf此前曾参与学术研究。创始人识别出AI行业的一个关键瓶颈：训练和运行最先进模型的巨大计算成本。他们最初的重点是开发一个平台，能够优化模型在各种硬件上的执行，包括AMD GPU，这些硬件通常被视为Nvidia主导产品的更具成本效益的替代方案。
在成立的第一年内，Decart获得了大量风险投资。2024年，公司宣布完成由Benchmark领投的3200万美元A轮融资，Benchmark是硅谷一家著名的风险投资公司。这笔投资表明市场对Decart的技术及其颠覆AI基础设施格局的潜力充满信心，而这一格局当时由少数大型云服务提供商主导。
技术与核心产品
Decart的主要产品是一个推理引擎和编排平台，旨在以卓越的速度和效率运行AI模型。该公司的软件栈设计为硬件无关，使其能够在多种加速器上优化性能，包括AWS Trainium芯片、Google Cloud TPU以及Intel加速器，此外还有AMD GPU。这种灵活性是一个关键差异化因素，因为它使客户能够避免供应商锁定，并为其特定需求选择最具成本效益的硬件。
Decart的一项显著成就是开发了一个系统，能够以远快于典型实现的速度运行基于U-Net的图像生成模型，例如Stable Diffusion。公司报告称，其实现的推理速度比领先竞争对手快数倍，部分归功于模型剪枝和批归一化优化等先进技术。这一性能在AMD硬件上运行文本到图像模型的现场演示中得到展示，彰显了实时、交互式AI应用的潜力。
市场定位与合作伙伴关系
Decart将自己定位为对Oracle Cloud和Microsoft Azure等成熟AI云服务提供商的挑战者。Decart的平台并非构建大规模集中式数据中心，而是设计用于聚合和利用分布式计算资源，包括可能未被充分利用的消费级GPU。这种方法旨在创建更高效、更易访问的计算市场，降低AI初创企业和研究人员的进入门槛。
公司已与硬件制造商建立战略合作伙伴关系，以共同优化其软件与新芯片设计。一个值得注意的合作是与AMD的合作，Decart致力于确保其推理引擎充分利用AMD Instinct系列加速器的能力。这一合作是更广泛行业趋势的一部分，即软件公司与芯片设计商紧密合作，以缩小与Nvidia CUDA生态系统的性能差距。
影响与未来方向
Decart的崛起反映了AI行业向效率和成本优化转变的更广泛趋势。随着训练和运行生成式AI模型的成本飙升，寻找以更少资源实现更多成果的方法面临越来越大的压力。Decart对推理速度的关注尤为相关，因为推理成本通常主导大规模AI服务运营的总支出。
该公司的技术对需要实时响应的人工智能应用开发具有影响，例如交互式代理、游戏和自主系统。通过使高性能推理更加经济实惠，Decart旨在加速AI在各行业的部署。截至2025年，公司继续扩大其工程团队并开发新功能，其既定目标是成为下一代AI应用的基础层。