图形处理器（GPU）是一种专用处理器，最初设计用于加速图像、视频和视觉效果的创建与渲染。与针对低延迟顺序任务优化的中央处理器（CPU）不同，GPU包含数百或数千个并行运行的小型核心，因此对于可分解为大量同时操作的任务非常高效。这种架构使GPU不仅对图形处理不可或缺，而且对通用计算也至关重要，尤其是在人工智能、科学模拟和数据分析等领域。
现代GPU从20世纪80年代和90年代的早期图形加速器演变而来。1999年，Nvidia推出了GeForce 256，并将其宣传为世界首款GPU，将变换、光照和三角形设置集成到单个芯片中。AMD随后推出了Radeon系列，Intel后来将GPU集成到其许多CPU中。随着时间的推移，GPU变得可编程，允许开发者通过CUDA（Nvidia于2006年推出）和OpenCL等API将其用于非图形任务。这种可编程性为通用GPU计算（GPGPU）铺平了道路，后者成为现代计算的基石。
架构与操作
GPU的架构围绕大量流式多处理器（SM）或计算单元构建，每个单元包含许多并行执行指令的算术逻辑单元（ALU）。例如，高端消费级GPU可能拥有超过10,000个核心，而数据中心GPU如Nvidia A100或H100则拥有数千个针对浮点运算优化的核心。内存子系统也经过专门设计，高带宽内存（HBM）或GDDR6X提供快速数据访问。GPU使用单指令多数据（SIMD）或单指令多线程（SIMT）模型，其中许多线程在不同数据元素上执行相同指令。
这种设计在矩阵乘法和卷积运算方面表现出色，这些运算对于图形渲染和神经网络至关重要。例如，GPU可以同时处理数百万个像素或矩阵元素，实现CPU无法匹敌的吞吐量。然而，GPU在处理需要复杂分支或顺序依赖的任务时效率较低，这就是为什么CPU对于通用操作系统任务仍然必不可少。
在人工智能和机器学习中的作用
2010年代深度学习的兴起改变了GPU的角色。训练神经网络涉及大规模矩阵运算，GPU相比CPU可将这些运算加速数个数量级。2012年，多伦多大学的研究人员使用GPU训练了AlexNet，这是一种卷积神经网络，赢得了ImageNet竞赛并引发了现代AI热潮。此后，GPU已成为机器学习训练和推理的标准硬件。
主要云服务提供商，包括Amazon Web Services、Azure和Google Cloud，为AI工作负载提供GPU实例。Groq和SambaNova等公司开发了专门的AI加速器，但GPU因其灵活性和成熟的软件生态系统仍是最广泛使用的。TensorFlow和PyTorch等框架针对GPU执行进行了优化，Nvidia的CUDA已成为GPU计算的主导编程模型。随着大型语言模型和生成式AI的发展，对GPU的需求激增，导致供应短缺，并促使TSMC等公司增加对制造能力的投资。
图形之外的应用
在AI之外，GPU还用于科学计算，加速物理学、化学和生物学中的模拟。例如，分子动力学模拟和气候建模依赖GPU集群。在金融服务中，GPU加速风险分析和算法交易。它们还用于密码学、石油和天然气勘探以及医学成像。汽车行业使用GPU进行高级驾驶辅助系统和自动驾驶，如Tesla Autopilot和Waymo的自动驾驶技术所示。此外，GPU为视频游戏机和虚拟现实头显提供动力，并越来越多地用于视频编码和解码。
主要制造商与市场格局
GPU市场由Nvidia、AMD和Intel主导。Nvidia占据最大份额，尤其是在数据中心领域，其A100和H100系列专为AI设计。AMD以其Instinct系列竞争，而Intel则通过Arc系列进入独立GPU市场。Apple为Mac和iPhone设计自己的GPU，Qualcomm和Arm Holdings为移动设备提供GPU IP。Samsung Electronics和其他制造商为消费电子产品生产GPU。先进GPU的制造依赖TSMC和三星的晶圆厂，这些工厂使用5纳米和3纳米等尖端工艺生产芯片。
未来方向
随着AI模型变得更大，对更强大GPU的需求持续增长。Nvidia的路线图包括Blackwell等下一代架构，竞争对手也在开发替代方案。然而，GPU面临功耗和内存带宽等挑战。小芯片、先进封装和光互连等新兴技术可能解决这些问题。此外，专门的AI加速器，如Google DeepMind的TPU（尽管不是GPU），正在获得关注，但GPU仍是最通用且被广泛采用的并行处理器。未来可能涉及GPU、定制加速器和量子计算的混合，GPU在可预见的未来将继续在计算中发挥核心作用。