Deci AI是一家以色列科技公司，专注于深度学习加速。公司成立于2019年，开发软件工具以优化人工智能模型，使其能够在各种硬件平台上高效部署，包括边缘设备和云服务器。Deci AI的核心技术旨在降低神经网络的计算成本，同时保持或提高其准确性，从而解决人工智能系统实际应用中的关键瓶颈。
该公司源于自动神经架构搜索和模型压缩方面的研究，定位在机器学习运维这一更广泛的领域内。Deci AI的产品面向部署大型语言模型、计算机视觉系统和其他人工智能工作负载的组织，提供声称能提升推理速度和降低基础设施成本的解决方案。截至2024年，该公司已筹集了大量风险投资资金，并与主要云服务提供商和半导体公司建立了合作伙伴关系。
创立与融资
Deci AI于2019年由Yonatan Geifman、Ran El-Yaniv和Jonathan Elster创立。Geifman担任首席执行官，此前曾在英特尔从事人工智能研究。El-Yaniv是以色列理工学院（Technion - Israel Institute of Technology）的教授，带来了机器学习与神经网络优化方面的学术专长。公司总部位于以色列特拉维夫。
这家初创公司在2020年完成了由Emerge领投的925万美元种子轮融资，Square Peg Capital和其他投资者参投。2021年，Deci AI获得了由Insight Partners领投的2100万美元A轮融资，使总融资额达到约3000万美元。2023年，公司完成了由AME Cloud Ventures领投的2500万美元B轮融资，累计融资额超过5500万美元。这些数字反映了投资者对人工智能基础设施和模型优化技术日益增长的兴趣。
核心技术：AutoNAS与Infery
Deci AI的基础技术是AutoNAS（自动化神经架构搜索），这是一个专有系统，能够自动设计高效的神经网络架构。AutoNAS使用强化学习和其他优化技术来探索可能的网络设计空间，在准确性和计算成本之间取得平衡。该系统可以生成针对特定硬件目标定制的自定义架构，例如ARM处理器、英特尔芯片或NVIDIA GPU，尽管NVIDIA并未明确列入公司的公开合作伙伴名单。
基于AutoNAS构建的主要商业产品是Infery，一个推理运行时和优化引擎。Infery包含一个模型优化工具包，应用剪枝、量化和知识蒸馏等技术来减小模型大小和延迟。该运行时支持跨多个框架的部署，包括TensorFlow和PyTorch，并与Docker和Kuber等容器化环境集成。Infery声称在边缘设备上可实现高达10倍的推理加速，在云服务器上可达4倍，但这些数字取决于具体模型和硬件。
产品与用例
Deci AI的产品套件不仅限于Infery，还包括DeciLint（一种模型分析工具，用于识别神经网络图中的低效之处）和DeciGrad（一种基于梯度的优化模块，针对目标硬件微调模型）。这些工具面向需要在具有严格延迟和成本约束的生产环境中部署模型的数据科学和机器学习团队。
主要用例包括目标检测和图像分割等计算机视觉应用、文本分类和问答等自然语言处理任务，以及近年来兴起的大型语言模型推理。例如，Deci AI已展示通过应用激进压缩技术在单台服务器节点上运行一个1750亿参数的Transformer模型，尽管这些说法基于内部基准测试，尚未经过独立验证。公司还提供Deci Cloud，一个托管平台，允许客户在不搭建自身基础设施的情况下测试和基准测试优化模型。
合作伙伴关系与生态系统
Deci AI已与多家大型科技公司建立合作伙伴关系以扩大其影响力。2022年，公司宣布与高通合作，优化面向高通骁龙移动平台的AI模型，目标是智能手机和物联网设备的端设备推理。这一合作旨在以更低功耗实现实时AI功能，如图像增强和语音识别。
在云领域方面，Deci AI与亚马逊云服务和谷歌云合作，将其优化工具作为各自AI市场的一部分提供。公司还在2023年与AMD合作，支持AMD的Instinct加速器，为数据中心工作负载提供优化模型库。此外，Deci AI还与三星电子在消费电子领域的边缘AI应用展开合作，但具体产品细节尚未披露。
这些合作伙伴关系对Deci AI具有战略意义，因为它们提供了硬件特定优化和分发渠道。通过与芯片制造商和云服务提供商保持一致，公司可以确保其软件在从AWS Trainium到Groq和SambaNova系统的多样化AI加速器环境中高效运行。
竞争格局
Deci AI在一个既有成熟企业又有初创公司的竞争市场中运营。直接竞争对手包括开发专用AI处理器的Graphcore，以及专注于超快推理硬件的Groq。在软件方面，SambaNova和Neural Magic等公司提供优化解决方案，尽管Neural Magic不在提供的链接列表中。此外，主要云服务提供商提供自身的优化服务，如Amazon SageMaker和Azure Machine Learning，这些可能与Deci AI的产品形成竞争。
Deci AI通过其AutoNAS技术实现差异化，该技术自动化架构搜索过程，而非仅依赖事后压缩。这种方法可以生成从初始阶段就天然更高效的模型，而不是缩小现有架构。公司还强调硬件感知优化，针对特定芯片定制模型，这是随着AI工作负载向多样化边缘和数据中心环境迁移而日益增长的趋势。
研究与开源贡献
Deci AI维持一支活跃的研究团队，发表学术论文并为更广泛的AI社区做出贡献。值得注意的出版物包括关于量化感知训练和高效Transformer架构的研究，已在NeurIPS和ICML等会议上展示。公司还发布了开源工具，包括一个用于模型压缩的库，已被外部开发者使用。
2023年，Deci AI推出了一项名为“神经网络超分辨率”的技术，使用生成模型从压缩版本重建高精度网络。这项研究在生成式AI方面具有潜在应用，并可能提高Transformer模型的效率。然而，这些贡献属于快速发展的领域，其长期影响仍有待观察。
挑战与未来方向
与许多AI基础设施公司一样，Deci AI面临着硬件和模型开发快速演进带来的挑战。新的加速器架构，如谷歌DeepMind的TPU和特斯拉的定制芯片，要求优化工具持续适应。此外，拥有数十亿参数的基础模型的兴起带来了扩展挑战，可能限制传统压缩技术的适用性。
展望未来，Deci AI旨在扩展其对生成式AI工作负载的支持，包括文本生成和多模态模型。公司还在探索与微软Azure和甲骨文云的集成，以扩大其云覆盖范围。截至2024年，Deci AI尚未披露首次公开募股计划，但其融资轨迹表明在AI优化市场中持续增长。
结论
Deci AI已在深度学习加速领域确立了显著地位，提供软件工具以提高跨硬件平台的AI模型效率。凭借其AutoNAS技术和Infery运行时，公司满足了大规模部署AI的组织的关键需求。尽管竞争激烈，Deci AI对自动化架构搜索和硬件感知优化的专注提供了独特的价值主张。公司的未来成功将取决于其跟上AI模型和硬件演变的步伐，以及将技术创新转化为商业采纳的能力。