AMD Instinct是AMD开发的数据中心图形处理器(GPU)品牌。该品牌于2016年推出,取代了FirePro S系列,旨在加速深度学习、人工智能工作负载以及高性能计算(HPC)应用。与面向消费和游戏市场的Radeon品牌不同,Instinct显卡针对训练神经网络和运行大规模科学模拟等计算密集型任务进行了优化。该品牌直接与Nvidia的数据中心GPU产品以及Intel的Xeon Phi和数据中心GPU系列竞争。
该产品线最初以AMD Radeon Instinct的名称销售,但AMD在2020年11月MI100发布前放弃了Radeon品牌。此后,Instinct系列通过多种架构演进,结合先进封装和内存技术,以满足生成式AI和机器学习日益增长的需求。截至2023年,使用Instinct GPU的AMD超级计算机在全球性能和效率排名中均占据领先地位。
早期产品(2016-2017年)
AMD于2016年12月12日宣布了首批三款Radeon Instinct产品,并于2017年6月20日发布。每款显卡基于不同的GPU架构,面向计算市场的不同细分领域。
MI6
MI6采用Polaris 10芯片,配备16 GB GDDR5内存,热设计功耗(TDP)低于150 W。其FP16和FP32性能为5.7 TFLOPS,主要适用于推理任务而非训练。峰值双精度(FP64)性能为358 GFLOPS。该显卡采用被动散热,体现了其低功耗设计。
MI8
MI8基于Fiji架构,类似于Radeon R9 Nano,TDP低于175 W。它配备4 GB高带宽内存(HBM),FP16和FP32性能达到8.2 TFLOPS。与MI6一样,它面向推理工作负载,峰值FP64性能为512 GFLOPS。
MI25
MI25采用Vega架构,配备HBM2内存。其FP32性能为12.3 TFLOPS,通过利用低精度运算,FP16性能可达24.6 TFLOPS。该显卡TDP低于300 W,采用被动散热,峰值FP64性能为768 GFLOPS,为FP32速率的十六分之一。MI25定位兼顾训练和推理,受益于Vega架构改进的计算能力。
MI50和MI60(Vega 20)
MI50和MI60基于Graphics Core Next(GCN)5架构的Vega 20变体,是最后一批带有Radeon品牌的Instinct显卡。它们支持半速率FP64性能,相比早期型号有显著提升,并保留了显示输出能力。这些显卡用于早期的百亿亿次和HPC部署,填补了工作站和数据中心角色之间的空白。
MI100系列(CDNA 1)
MI100系列于2020年11月发布,标志着向AMD CDNA(Compute DNA)架构的过渡,该架构专为计算工作负载设计。CDNA 1显卡移除了所有渲染相关硬件(如光栅化单元),并添加了矩阵处理单元,以加速Transformer模型和其他深度学习操作。该架构为AMD后续以AI为重点的加速器奠定了基础。
MI300系列(CDNA 3)
MI300A和MI300X于2023年底推出,是基于CDNA 3架构的数据中心加速器,针对HPC和生成式AI工作负载进行了优化。该架构采用可扩展的chiplet设计,利用TSMC的先进封装技术(包括CoWoS(chip-on-wafer-on-substrate)和InFO(integrated fan-out)),在单个中介层上组合多个chiplet。AMD的Infinity Fabric互连可实现chiplet与主机系统之间的高速、低延迟数据传输。
MI300A
MI300A是一款加速处理单元(APU),集成了24个Zen 4 CPU核心和4个CDNA 3 GPU核心,GPU部分共228个计算单元(CU),配备128 GB HBM3内存。Zen 4核心采用5 nm工艺,支持x86-64指令集、AVX-512和BFloat16扩展,可运行通用应用程序并提供主机端计算。MI300A的峰值性能为61.3 TFLOPS FP64(FP64矩阵运算为122.6 TFLOPS)和980.6 TFLOPS FP16(稀疏性为1961.2 TFLOPS),内存带宽为5.3 TB/s。它支持PCIe 5.0和CXL 2.0接口,用于异构系统集成。
MI300X
MI300X是一款专用的生成式AI加速器,用额外的GPU资源取代了CPU核心,从而拥有304个CU和192 GB HBM3内存。它专为自然语言处理、计算机视觉和深度学习等应用而设计。MI300X的TF32性能为653.7 TFLOPS(稀疏性为1307.4 TFLOPS),FP16性能为1307.4 TFLOPS(稀疏性为2614.9 TFLOPS),内存带宽同为5.3 TB/s。它支持PCIe 5.0和CXL 2.0,并支持AMD的ROCm软件栈,该软件栈为开发和部署生成式AI应用提供了统一的编程模型。
MI350系列(CDNA 4)
MI350X和MI355X于2025年发布,基于CDNA 4架构,面向高级AI训练和推理。它们采用TSMC的3 nm(N3)工艺制造,采用高性能chiplet设计,配备288 GB HBM3E内存和8 TB/s带宽。CDNA 4原生支持低精度格式FP4和FP6,以及FP8和FP16,使MI355X的FP4计算能力提升至高达9.2 PetaFLOPS。该架构保持Infinity Fabric互连以实现高效数据传输。2026年,AMD发布了MI350P作为PCIe显卡,其计算能力和功耗约为MI350X的一半,为某些部署提供了更易获取的选择。
软件栈
ROCm
AMD面向Instinct产品的软件生态系统以Radeon Open Compute(ROCm)元项目为核心,提供一系列用于GPU计算的驱动程序、库和工具。ROCm旨在与Nvidia的CUDA平台竞争,为开发者提供开源替代方案。
MxGPU
MI6、MI8和MI25支持AMD的MxGPU虚拟化技术,该技术可在多个用户或虚拟机之间共享GPU资源。此功能对于资源利用效率至关重要的云和企业环境非常有价值。
MIOpen
MIOpen是AMD的深度学习库,可实现神经网络训练和推理的GPU加速。它扩展了GPUOpen Boltzmann Initiative软件,并支持Theano、Caffe、TensorFlow、MXNet、Microsoft Cognitive Toolkit、Torch和Chainer等流行框架。编程支持OpenCL和Python,AMD的Heterogeneous-compute Interface for Portability(HIP)和Heterogeneous Compute Compiler允许编译CUDA代码以在AMD硬件上运行,从而简化了开发者的迁移过程。
性能与市场地位
2022年6月,基于AMD Epyc CPU和Instinct GPU的超级计算机在Green500最节能超级计算机榜单上领先,占据前四名,领先其他任何系统超过50%。其中,Frontier超级计算机自2022年6月以来一直是TOP500榜单上全球最快的系统,并保持至2023年。这一成就凸显了Instinct加速器在大规模HPC环境中的效率和计算能力。
Instinct系列持续演进,以应对大型语言模型和生成式AI的快速增长,每一代都增加内存容量、带宽和对低精度格式的支持,以满足大规模训练和推理的需求。