NVLink-C2C是NVIDIA开发的一种芯片间互连技术，用于连接单个系统内的处理器、GPU和其他加速器。它基于NVLink协议，该协议于2014年3月首次公布，是一种基于线缆的串行、多通道、近距通信链路。与PCI Express不同，NVLink允许设备使用多条链路和网状网络，实现无需中央集线器的直接对等通信。NVLink-C2C扩展了这项技术，为不同类型的芯片（如CPU和GPU）之间，或紧密耦合系统中的多个GPU之间，提供高带宽、低延迟的连接。这种互连对于现代AI和机器学习工作负载至关重要，因为这类负载需要在计算元件之间进行大规模数据传输。
NVLink-C2C支持一致性内存共享，允许连接的设备访问统一的内存空间。这简化了编程并减少了数据重复，从而提升了深度学习和大型语言模型等应用的性能。该技术用于NVIDIA的Grace CPU和Hopper GPU架构，支持如Grace Hopper超级芯片等系统，该系统通过NVLink-C2C将CPU和GPU配对，用于加速计算。
技术规格
NVLink-C2C利用NVLink的物理层，该物理层规定了点对点连接，对于1.0、2.0和3.0+版本，每对差分信号线的数据速率分别为20、25和50 Gbit/s。对于NVLink 1.0和2.0，八对差分信号线构成一个子链路，两个子链路（每个方向一个）构成一个链路。从NVLink 3.0开始，仅四对差分信号线构成一个子链路。NVLink 2.0及更高版本每个子链路的总数据速率为25 GB/s，每个链路的总数据速率为50 GB/s。NVLink-C2C使用类似的高速信号传输，但针对封装内或板卡上的芯片间连接进行了优化，而非独立模块之间的连接。
例如，Grace CPU有18条NVLink-C2C链路，可向Hopper GPU提供高达900 GB/s的双向带宽。这种高带宽支持生成式AI和Transformer模型的高效数据移动，这些模型需要大内存占用和计算单元之间的频繁通信。
架构与设计
NVLink-C2C旨在支持多种拓扑结构，包括点对点、网状和基于交换机的连接。对于少量设备，直接链路提供全连接。对于更大规模的系统，NVLink交换机（2018年推出）采用分组交换架构，每个交换机支持多达32个双通道端口。NVLink 4.0的NVSwitch包含SHARP加速器，可在网络中执行求和和广播等简单计算，从而减少通信开销。
NVLink-C2C还包含可靠性和能效方面的特性。它使用128b/130b线路编码，类似于PCI Express 3.0及更高版本，相比旧编码方案降低了开销。物理层包含链路控制字符和事务头，这会增加一些开销，但基准测试显示可实现约90-95%的理论最大传输速率。例如，连接到P100 GPU的40 Gbit/s NVLink连接在实际测试中实现了约35.3 Gbit/s的速率。
应用与使用场景
NVLink-C2C主要用于高性能计算和AI数据中心。它是NVIDIA DGX系统的关键组件，这些系统集成多个GPU用于大型模型的训练和推理。该互连还用于Grace Hopper超级芯片，该芯片将72核Grace CPU与H100 GPU结合，在两者之间提供高达900 GB/s的带宽。这种设计对内存密集型工作负载特别有效，例如神经网络和大型语言模型，其中数据传输速度是瓶颈。
除了AI，NVLink-C2C还用于科学计算，其中模拟和数据分析需要高吞吐量通信。该技术也被Amazon Web Services和Google Cloud等云提供商采用，用于其AI基础设施，以及由台积电制造的芯片，这些芯片来自AMD和Intel的系统，用于异构计算。
与其他互连技术的比较
NVLink-C2C与PCI Express、CXL和InfiniBand等其他高速互连技术竞争。与PCIe相比，NVLink-C2C提供更高的带宽和更低的延迟，因为它专为芯片间通信而非外设扩展而设计。例如，PCIe 5.0每通道提供32 GT/s，而NVLink 4.0每对差分信号线提供50 Gbit/s，并且通过更多链路，总带宽显著更高。基于PCIe的CXL支持缓存一致性内存共享，但通常带宽低于NVLink-C2C。
NVLink-C2C也不同于InfiniBand等网络互连，后者用于系统间通信。NVLink-C2C用于系统内连接，提供比网络解决方案更低的延迟和更高的带宽。这使其非常适合单个服务器或机架中紧密耦合的计算节点。
未来发展
NVIDIA持续演进NVLink技术。用于Vera Rubin NVL72平台的NVLink 6每个GPU提供3.6 TB/s的双向带宽。一个NVL72机架使用九个NVLink 6交换机，提供260 TB/s的总扩展带宽。这些进步预计将支持更大的AI模型和更复杂的模拟，保持NVLink-C2C作为行业领先芯片间互连技术的地位。
截至2025年，NVLink-C2C是AI基础设施的关键推动者，其采用率在AWS、Azure和Oracle Cloud产品中不断增长。该技术也正在探索用于边缘设备和汽车应用，这些领域需要高带宽、低功耗的互连。