Arm AI 是 Arm Holdings plc 旗下专注于人工智能的部门，Arm Holdings 是一家总部位于英国剑桥的英国半导体和软件设计公司。Arm AI 开发针对边缘计算量身定制的处理器设计和神经处理单元（NPU），支持从智能手机到嵌入式传感器等设备上的机器学习和深度学习工作负载。其 Ethos NPU 系列是关键产品线，旨在在功耗受限环境中高效加速神经网络推理。
该部门建立在 Arm 更广泛的架构之上，该架构授权给全球合作伙伴。Arm 的 CPU 核心，如 Cortex-A 和 Cortex-M 系列，广泛用于移动和嵌入式系统，Arm AI 将 AI 专用加速器与这些核心集成。这种方法使设备能够本地运行生成式人工智能模型和其他 AI 任务，减少对云计算的依赖，并增强隐私和降低延迟。Arm AI 与高通、苹果和三星电子等公司的其他边缘 AI 解决方案竞争，但其授权模式通过支持广泛的芯片设计者生态系统而使其与众不同。
历史与演变
Arm Holdings 于 1990 年 11 月 12 日以 Widelogic Limited 的名义成立，并于 1990 年 12 月 3 日迅速更名为 Advanced RISC Machines Limited，作为 Acorn Computers、Apple 和 VLSI Technology 的合资企业。ARM 缩写最初代表“Acorn RISC Machine”，后来应 Apple 的要求改为“Advanced RISC Machines”。该公司的第一款处理器 ARM1 用于 Acorn Archimedes，这是首批基于 RISC 的台式计算机之一。Arm 的早期重点是低功耗、高效率的处理器，这成为移动设备的基础。
Arm AI 在 2010 年代作为一项独立计划出现，当时人工智能应用激增。2017 年，Arm 推出了其首款 AI 专用处理器架构 Arm Machine Learning processor，并于 2018 年推出了 Ethos NPU 产品线。这些发展旨在将 AI 能力带到数十亿边缘设备，与 Arm 的“无处不在的计算”使命保持一致。该部门此后已扩展以支持设备端大型语言模型推理，随着来自OpenAI和Anthropic等公司的模型变得更加紧凑，这一需求日益增长。
Ethos NPU 架构
Ethos NPU 系列是 Arm AI 的核心硬件产品。第一代 Ethos-N37 于 2018 年发布，面向中端智能手机和物联网设备。随后几代，如 Ethos-N57 和 Ethos-N77，为更高端应用扩展了性能。2020 年，Arm 推出了 Ethos-U 系列，专为微控制器和超低功耗边缘设备设计，使传感器和可穿戴设备具备 AI 能力。最新的 Ethos-U85 于 2024 年发布，支持基于 transformer 的模型，包括现代 AI 中使用的Transformer架构。
Ethos NPU 针对推理而非训练进行了优化，专注于 TOPS/W（每瓦特每秒万亿次操作）等效率指标。它们支持常见的神经网络操作，包括卷积、池化和激活函数，并可通过 TensorFlow Lite 和 PyTorch 等软件框架进行编程。Arm AI 还提供 Arm NN 软件库，将 AI 框架与硬件连接起来，确保无缝部署。
与 Arm CPU 的集成
Arm AI 处理器旨在与 Arm CPU 协同工作，Arm CPU 在移动和嵌入式系统中无处不在。用于智能手机的 Cortex-A 系列和用于微控制器的 Cortex-M 系列提供通用计算，而 Ethos NPU 则卸载 AI 特定任务。这种异构计算方法平衡了性能和功耗，对电池供电设备至关重要。例如，智能手机可能使用 Cortex-A78 进行应用处理，并使用 Ethos-N77 进行场景识别等相机 AI 功能。
Arm 于 2020 年推出的 Total Compute 解决方案将 CPU、GPU 和 NPU 集成到一个统一的平台中。Arm 的图形产品线 Mali 和 Immortalis GPU 也支持 AI 工作负载，其中 Immortalis 增加了硬件光线追踪。这种集成允许开发人员跨不同计算单元优化 AI 模型，最大化效率。Arm AI 的软件工具，包括 Arm Compute Library 和用于 Cortex-M 的 CMSIS-NN，进一步简化了部署。
市场地位与竞争
Arm AI 在竞争激烈的环境中运营。在移动 AI 领域，竞争对手包括使用 Hexagon DSP 的高通和使用 Neural Engine 的苹果。在物联网边缘 AI 领域，竞争对手包括使用 Movidius 的英特尔和谷歌深度思维的硬件合作伙伴。然而，Arm 的授权模式赋予其独特优势：它不销售芯片，而是将设计授权给数百个合作伙伴，包括三星电子、台积电和博通。这种生态系统方法使得基于 Arm 的处理器截至 2025 年几乎用于所有现代智能手机。
在服务器和数据中心领域，Arm AI 面临来自超威半导体和英特尔的竞争，但其重点仍在边缘。Arm 在服务器中的主要 CPU 竞争对手包括 IBM、Intel 和 AMD，但 Arm 在移动 CPU 领域没有竞争对手，尽管芯片供应商在该领域内竞争。在 GPU 方面，Arm 与 Imagination Technologies、Qualcomm 以及越来越多的 Nvidia、AMD、Samsung 和 Intel 竞争。尽管如此，Arm 的 NPU 通常与其他供应商的 GPU 集成，如 Qualcomm 的 Snapdragon 平台所示。
软件与开发者生态系统
Arm AI 提供全面的软件栈以支持 AI 开发。Arm NN SDK 于 2017 年首次发布，允许开发人员在 Arm 硬件上运行神经网络，支持 TensorFlow、Caffe 和 ONNX 等框架。2019 年，Arm 推出了 Arm ML Embedded Evaluator（Arm ML Eval），这是一种用于在嵌入式设备上基准测试 AI 性能的工具。CMSIS-NN 库是 Cortex 微控制器软件接口标准的一部分，为 Cortex-M 处理器优化神经网络内核。
Arm 还与云提供商合作，实现边缘到云的 AI。通过与亚马逊网络服务、微软 Azure和谷歌云的合作，Arm AI 设计用于云实例中的训练，而边缘设备处理推理。这种混合方法在生成式人工智能应用中很常见，其中模型在云端训练并部署在设备上。Arm 对模型剪枝和量化的支持有助于减小模型大小，使在内存有限的设备上部署成为可能。
近期发展与未来方向
2023 年，Arm 在纳斯达克上市，以 545 亿美元估值筹集了 48.7 亿美元，SoftBank Group 保留约 90% 的所有权。这次 IPO 为 Arm AI 扩展其产品路线图提供了资金。2024 年，Arm 发布了支持 transformer 模型的 Ethos-U85，并推出了面向数据中心的 Arm AI Accelerator，针对大规模推理。这些举措表明其向更强大的边缘 AI 迈进，包括设备端大型语言模型推理。
Arm AI 还在探索与 AI 研究实验室的合作。2025 年，它与麻省理工学院计算机科学与人工智能实验室和斯坦福人工智能实验室合作研究节能 AI 算法，旨在减少 AI 的碳足迹。该部门正在投资残差网络和U-Net优化以用于计算机视觉，以及序列到序列模型以用于自然语言处理。随着 AI 模型变得更加高效，Arm AI 旨在使其部署在数十亿设备中，从智能家居传感器到自动驾驶汽车。
挑战与争议
Arm AI 面临挑战，包括 2020 年至 2022 年 Nvidia 的收购尝试，该尝试因英国、欧盟和美国的监管压力而取消。这种不确定性影响了 Arm 的战略方向，但公司保持了独立。此外，Arm 的中国子公司 Arm China 一直是争议的来源，据报道 2020 年出现领导层冲突。这些问题并未直接影响 Arm AI 的产品开发，但凸显了治理复杂性。
另一个挑战是来自开源 AI 硬件计划（如 RISC-V）的竞争压力，这些计划提供免费替代方案。然而，Arm 成熟的生态系统和软件支持提供了强大的护城河。截至 2026 年，Arm AI 继续创新，有报道称其可能收购晶圆级芯片制造商 Cerebras Systems，尽管该提议被拒绝。这表明 Arm 有志于扩展到高性能 AI 计算，可能连接边缘和数据中心市场。
结论
Arm AI 代表了 Arm Holdings 内部对在边缘实现 AI 的战略重点。通过其 Ethos NPU 系列和与 Arm CPU 的集成，它为各种设备提供了高效、可扩展的解决方案。该部门的成功与 Arm 的授权模式密切相关，该模式促进了半导体行业的创新。随着 AI 变得无处不在，Arm AI 有望在将智能带到每个连接设备（从可穿戴设备到工业传感器）方面发挥核心作用，同时满足在隐私意识日益增强的世界中对设备端处理不断增长的需求。