Deci AI是一家以色列科技公司，专注于深度学习加速。公司成立于2019年，开发软件工具以优化人工智能模型，使其能够在各种硬件平台上高效部署，包括边缘设备和云服务器。Deci AI的核心技术旨在降低神经网络的计算成本，同时保持或提高其准确性，从而解决AI系统实际应用中的关键瓶颈。
该公司源于自动化神经架构搜索和模型压缩方面的研究，定位在机器学习运维这一更广泛的领域内。Deci AI的产品面向部署大型语言模型、计算机视觉系统及其他AI工作负载的组织，提供声称能提升推理速度并降低基础设施成本的解决方案。截至2024年，公司已获得大量风险投资资金，并与主要云服务提供商和半导体公司建立了合作伙伴关系。
创立与融资
Deci AI于2019年由Yonatan Geifman、Ran El-Yaniv和Jonathan Elster共同创立。Geifman担任首席执行官，此前曾在英特尔从事AI研究。El-Yaniv是以色列理工学院（Technion）的教授，带来了机器学习和神经网络优化方面的学术专长。公司总部位于以色列特拉维夫。
这家初创公司在2020年完成了925万美元的种子轮融资，由Emerge领投，Square Peg Capital和其他投资者参与。2021年，Deci AI获得了2100万美元的A轮融资，使其总融资额达到约3000万美元。A轮由Insight Partners领投，现有投资者继续支持。2023年，公司完成了2500万美元的B轮融资，由AME Cloud Ventures领投，累计融资额超过5500万美元。这些数字反映了投资者对AI基础设施和模型优化技术的兴趣日益增长。
核心技术：AutoNAS与Infery
Deci AI的基础技术是AutoNAS（自动化神经架构搜索），这是一个专有系统，可自动设计高效的神经网络架构。AutoNAS使用强化学习和其他优化技术来探索可能的网络设计空间，在准确性和计算成本之间取得平衡。该系统可以生成针对特定硬件目标量身定制的自定义架构，例如ARM处理器、英特尔芯片或NVIDIA GPU，尽管NVIDIA并未明确列入公司的公开合作伙伴名单中。
基于AutoNAS构建的主要商业产品是Infery，这是一个推理运行时和优化引擎。Infery包含一个模型优化工具包，应用剪枝、量化和知识蒸馏等技术来减小模型大小和延迟。该运行时支持跨多个框架的部署，包括TensorFlow和PyTorch，并与Docker和Kubernetes等容器化环境集成。Infery声称在边缘设备上可实现高达10倍的推理加速，在云服务器上可实现高达4倍的加速，但这些数字取决于具体模型和硬件。
产品与服务用例
Deci AI的产品套件不仅限于Infery，还包括DeciLint（一种模型分析工具，用于识别神经网络图中的低效之处）和DeciGrad（一种基于梯度的优化模块，用于针对目标硬件微调模型）。这些工具专为需要在具有严格延迟和成本约束的生产环境中部署模型的数据科学和机器学习团队设计。
关键用例包括计算机视觉应用（如目标检测和图像分割）、自然语言处理任务（如文本分类和问答），以及最近的大型语言模型推理。例如，Deci AI已展示通过应用激进压缩技术，在单个服务器节点上运行一个1750亿参数的Transformer模型，尽管此类声明基于内部基准测试，尚未经过独立验证。公司还提供Deci Cloud，这是一个托管平台，允许客户在不搭建自身基础设施的情况下测试和基准测试优化模型。
合作伙伴与生态系统
Deci AI已与多家主要科技公司建立合作伙伴关系以扩大其影响力。2022年，公司宣布与高通合作，为高通的Snapdragon移动平台优化AI模型，目标是智能手机和物联网设备的端侧推理。该合作旨在以更低功耗实现图像增强和语音识别等实时AI功能。
在云领域，Deci AI与亚马逊云服务和谷歌云合作，将其优化工具作为其AI市场的一部分提供。公司还在2023年与AMD合作，支持AMD的Instinct加速器，为数据中心工作负载提供优化模型库。此外，Deci AI还与三星电子就消费电子中的边缘AI应用进行了接触，但具体产品细节尚未披露。
这些合作伙伴关系对Deci AI具有战略意义，因为它们提供了硬件特定优化和分销渠道的访问权限。通过与芯片制造商和云服务提供商结盟，公司可以确保其软件在多样化的AI加速器环境中高效运行，从AWS Trainium到Groq和SambaNova系统。
竞争格局
Deci AI运营在一个竞争激烈的市场中，既有老牌企业也有初创公司。直接竞争对手包括开发专用AI处理器的Graphcore，以及专注于超快推理硬件的Groq。在软件方面，SambaNova和Neural Magic等公司提供优化解决方案，尽管Neural Magic不在提供的链接列表中。此外，主要云服务提供商提供自己的优化服务，如Amazon SageMaker和Azure Machine Learning，这些可能与Deci AI的产品竞争。
Deci AI通过其AutoNAS技术实现差异化，该技术自动化架构搜索过程，而非仅依赖事后压缩。这种方法可以生成从一开始就天然更高效的模型，而不是缩小现有架构。公司还强调硬件感知优化，即针对特定芯片定制模型，这是随着AI工作负载向多样化边缘和数据中心环境转移而日益增长的趋势。
研究与开源贡献
Deci AI维持着一支活跃的研究团队，发表学术论文并为更广泛的AI社区做出贡献。值得注意的出版物包括在NeurIPS和ICML等会议上展示的关于量化感知训练和高效Transformer架构的工作。公司还发布了开源工具，包括一个模型压缩库，已被外部开发者使用。
2023年，Deci AI推出了一种称为“神经网络超分辨率”的技术，该技术使用生成模型从压缩版本重建高精度网络。这项研究在生成式AI方面具有潜在应用，并可能提高Transformer模型的效率。然而，这些贡献属于快速发展的领域，其长期影响仍有待观察。
挑战与未来方向
与许多AI基础设施公司一样，Deci AI面临着与硬件和模型开发快速步伐相关的挑战。新的加速器架构，如谷歌DeepMind的TPU和特斯拉的定制芯片，要求优化工具持续适应。此外，具有数十亿参数的基座模型的兴起带来了扩展挑战，可能限制传统压缩技术的适用性。
展望未来，Deci AI旨在扩大对生成式AI工作负载的支持，包括文本生成和多模态模型。公司还在探索与微软Azure和甲骨文云的集成，以拓宽其云覆盖范围。截至2024年，Deci AI尚未披露首次公开募股计划，但其融资轨迹表明在AI优化市场中持续增长。
结论
Deci AI已在深度学习加速领域确立了显著地位，提供跨硬件平台提高AI模型效率的软件工具。凭借其AutoNAS技术和Infery运行时，公司满足了大规模部署AI的组织的关键需求。尽管竞争激烈，Deci AI对自动化架构搜索和硬件感知优化的关注提供了独特的价值主张。公司未来的成功将取决于其跟上AI模型和硬件演进步伐的能力，以及将技术创新转化为商业采用的能力。