高通AI是高通公司的一个人工智能部门，高通是一家跨国半导体和电信设备企业。该部门致力于开发并商业化直接在边缘设备（如智能手机、笔记本电脑和物联网硬件）上运行的人工智能技术，而非依赖基于云端的处理。其工作核心是将机器学习和深度学习能力集成到高通的骁龙平台中，特别强调能效和设备端性能。
该部门的核心重点是支持高级人工智能工作负载，包括生成式人工智能和大语言模型推理，使其能够在消费设备上本地运行。这种方法解决了依赖云端人工智能时出现的延迟、隐私和连接性问题。通过利用专用的神经处理单元（如骁龙处理器中的Hexagon NPU），高通AI旨在提供高性能的人工智能功能，如实时语言翻译、智能相机增强和个性化数字助手，而无需互联网连接。
历史与演变
高通涉足人工智能的时间早于专门部门的正式成立。该公司在2010年代中期开始将基本的神经网络处理能力集成到其移动芯片组中。2015年发布的骁龙820包括第一代Hexagon数字信号处理器（DSP），带有向量扩展，可用于简单的机器学习任务。然而，2017年推出的骁龙845标志着一个重要步骤，因为它配备了一个专用的人工智能引擎，结合了CPU、GPU和DSP来加速人工智能工作负载。
正式的高通AI部门成立于2018年，整合了公司的人工智能研发工作。此举部分是为了应对人工智能芯片市场日益激烈的竞争，尤其是来自苹果和三星电子的竞争，它们也在开发设备端人工智能能力。2019年，高通推出了Cloud AI 100，这是一款专为数据中心推理设计的独立加速器，标志着其业务扩展到移动设备之外。然而，公司的主要焦点仍保持在边缘人工智能上，Cloud AI 100后来被淡化，转而更强劲地推动设备端解决方案。
一个关键时刻出现在2021年，骁龙8 Gen 1的发布带来了升级后的Hexagon NPU，并引入了AI引擎处理更复杂模型的能力。随后，2022年的骁龙8 Gen 2增加了对Transformer模型的支持，并引入了传感中枢，这是一个低功耗的常开人工智能处理器。最重大的飞跃发生在2023年的骁龙8 Gen 3上，它专门针对设备端生成式人工智能进行了优化，能够直接在手机上运行Stable Diffusion和Llama 2等模型。
关键技术与产品
高通AI的主要产品是骁龙平台，该平台在其各个组件中集成了人工智能能力。核心元素是Hexagon NPU，这是一个专用的神经处理单元，已经经历了多代演进。最新的Hexagon NPU采用微平铺架构，能够高效处理大型模型，并辅以向量扩展和张量加速器。这种设计使NPU能够处理整数和浮点运算，这对于运行多样化的人工智能模型至关重要。
另一项关键技术是高通AI引擎，这是一个软硬件栈，为开发者提供了在骁龙设备上部署人工智能模型的工具。这包括高通神经网络（QNN）SDK，它支持TensorFlow和PyTorch等框架，以及AI模型效率工具包（AIMET），用于帮助优化模型以实现设备端执行。AI引擎还包括传感中枢，这是一个低功耗子系统，持续处理传感器数据，用于活动检测和语音唤醒等情境感知功能。
2024年，高通推出了面向Windows PC的骁龙X Elite和X Plus平台，将设备端人工智能带到了笔记本电脑上。这些处理器配备了强大的NPU，能够提供高达每秒45万亿次操作（TOPS）的性能，使其能够本地运行大语言模型和其他人工智能应用。这一举措使高通在人工智能PC市场上成为英特尔和AMD的竞争对手，重点关注能效和持续的人工智能性能。
研发工作
高通AI拥有一个重要的研究部门，专注于推进设备端人工智能的最新技术水平。研究团队在顶级会议和期刊上发表论文，涵盖模型压缩、量化和高效神经网络架构等主题。一个显著的研究领域是开发在资源受限设备上运行大语言模型的技术，包括减少内存占用和提高推理速度的方法。
该部门还与学术机构和行业合作伙伴合作。高通设立了高通创新奖学金，资助从事人工智能及相关领域的研究生。此外，公司参与开源计划，为ONNX运行时和MLPerf基准测试套件等项目做出贡献。这些努力有助于确保高通AI的技术与更广泛的人工智能生态系统保持兼容。
一个关键的研究重点是量化，即降低神经网络权重的精度以减少内存使用并提高速度。高通开发了专有的量化技术，使模型能够以最小的精度损失运行。公司还探索新颖的架构，如脉冲神经网络和神经形态计算，尽管这些仍处于实验阶段。
应用与使用场景
高通AI的主要应用在智能手机领域，它为一系列功能提供支持。这些包括计算摄影，其中人工智能通过改善低光性能、减少噪声以及实现人像模式和夜间模式等功能来增强图像。人工智能还用于实时语言翻译，使用户无需网络连接即可翻译语音和文本。语音助手，如基于OpenAI技术的语音助手，可以在骁龙设备上本地运行，以实现更快、更私密的交互。
在PC市场，高通AI支持Windows Studio Effects等功能，这些功能利用人工智能改善视频通话，包括模糊背景和保持眼神接触。NPU还支持本地人工智能助手，可以总结文档、生成电子邮件和回答问题，而无需将数据发送到云端。这对于关注数据安全的企业用户尤其具有吸引力。
对于物联网设备，高通AI应用于智能相机、工业机器人和医疗监测器等场景。Hexagon NPU的低功耗特性使其适用于需要持续进行人工智能推理的电池供电设备。例如，高通与多家公司合作开发了人工智能助听器和可穿戴健康监测器，能够实时分析生物特征数据。
竞争格局
高通AI在一个高度竞争的市场中运营，面临来自移动和PC领域的竞争对手。在移动领域，主要竞争对手是苹果的神经引擎和三星电子的Exynos NPU。苹果的A系列和M系列芯片以其强大的人工智能性能而闻名，而三星的Exynos处理器则用于其部分自家设备。高通通过向广泛的Android制造商销售来实现差异化，从而拥有更广泛的市场覆盖。
在PC市场，高通与英特尔和AMD竞争，这两家公司都推出了人工智能加速处理器。英特尔的Core Ultra系列配备神经处理单元（NPU），而AMD的Ryzen AI处理器则包含专用的人工智能引擎。高通的骁龙X系列旨在每瓦人工智能性能方面超越这些竞争对手，这是电池供电笔记本电脑的一个关键指标。
公司还面临来自专业人工智能芯片初创公司的竞争，尽管这些公司大多瞄准数据中心而非边缘设备。高通的优势在于其将人工智能深度集成到完整的系统级芯片（SoC）中，包括CPU、GPU和NPU，以及成熟的软件生态系统。这种集成使得与独立的人工智能加速器相比，能够实现更好的优化和更低的延迟。
未来方向
展望未来，高通AI专注于扩展设备端人工智能的能力。一个主要的发展领域是支持更大、更复杂的大语言模型。高通已经展示了在骁龙设备上运行超过100亿参数模型的能力，未来几代预计将处理更大的模型。这将使更复杂的人工智能助手和创意工具能够在本地运行。
另一个方向是多模态人工智能的集成，它可以同时处理文本、图像和音频。高通正在致力于实现能够跨多种模态理解和生成内容的模型，从而开辟新的使用场景，如实时视频分析和增强现实。公司还在探索设备端训练，这将允许设备根据用户行为个性化人工智能模型，而无需将数据发送到云端。
高通AI还在投资汽车领域，其骁龙Ride平台为高级驾驶辅助系统（ADAS）和自动驾驶提供人工智能能力。公司旨在将其设备端人工智能专业知识应用于车辆，实现驾驶员监测和车载助手自然语言交互等功能。随着人工智能继续从云端向边缘迁移，高通AI有望在这一转型中发挥核心作用，利用其在移动和无线技术领域的领导地位。
挑战与考量
尽管有其优势，高通AI仍面临多项挑战。一个重要问题是人工智能模型开发的快速步伐，这往往超过硬件跟上发展的能力。模型在规模和复杂性上不断增长，高通必须持续更新其NPU架构以支持它们。这需要大量的研发投资，以及与人工智能研究人员和开发者的紧密合作。
另一个挑战是Android生态系统的碎片化。与同时控制硬件和软件的苹果不同，高通必须支持各种规格和操作系统版本不同的设备。这使得确保所有设备上一致的人工智能性能变得困难。高通通过提供统一的软件栈并与设备制造商密切合作来优化其产品，从而解决这一问题。
隐私和安全也是关注点。虽然设备端人工智能通过将数据保留在本地提供了隐私优势，但它也创造了新的攻击面。恶意行为者可能利用人工智能处理流程中的漏洞来提取敏感信息。高通投资于安全处理环境，如其安全处理单元（SPU），以减轻这些风险。公司还遵守各种数据保护法规，确保其人工智能功能尊重用户隐私。
最后，还有环境影响的问题。在设备端运行人工智能模型会消耗电力，随着模型变得更加复杂，功耗可能会增加。高通致力于提高能源效率，其NPU设计用于以最小功耗执行人工智能任务。公司还在其可持续发展努力中考虑产品的完整生命周期，从制造到处置。