NVLink-C2C es un interconectado de chip a chip desarrollado por NVIDIA para conectar procesadores, GPU y otros aceleradores dentro de un solo sistema. Se basa en el protocolo NVLink, que se anunció por primera vez en marzo de 2014 como un enlace de comunicación serial, de múltiples carriles y de corto alcance basado en cables. A diferencia de PCI Express, NVLink permite que los dispositivos usen múltiples enlaces y redes en malla, habilitando comunicación directa de igual a igual sin un concentrador central. NVLink-C2C extiende esta tecnología para proporcionar conexiones de alto ancho de banda y baja latencia entre diferentes tipos de chips, como una CPU y una GPU, o entre múltiples GPU en un sistema estrechamente acoplado. Este interconectado es crítico para cargas de trabajo modernas de IA y aprendizaje automático, donde se requiere una transferencia masiva de datos entre elementos de cómputo.
NVLink-C2C admite el uso compartido de memoria coherente, lo que permite que los dispositivos conectados accedan a un espacio de memoria unificado. Esto simplifica la programación y reduce la duplicación de datos, mejorando el rendimiento para aplicaciones como aprendizaje profundo y modelos de lenguaje grandes. La tecnología se utiliza en las arquitecturas Grace CPU y Hopper GPU de NVIDIA, habilitando sistemas como el Grace Hopper Superchip, que combina una CPU y una GPU a través de NVLink-C2C para cómputo acelerado.
Especificaciones Técnicas
NVLink-C2C aprovecha la capa física de NVLink, que especifica conexiones punto a punto con velocidades de datos de 20, 25 y 50 Gbit/s por par diferencial para las versiones 1.0, 2.0 y 3.0+, respectivamente. Para NVLink 1.0 y 2.0, ocho pares diferenciales forman un sub-enlace, y dos sub-enlaces (uno para cada dirección) forman un enlace. A partir de NVLink 3.0, solo cuatro pares diferenciales forman un sub-enlace. La velocidad total de datos por sub-enlace es de 25 GB/s para NVLink 2.0 y superior, y el total por enlace es de 50 GB/s. NVLink-C2C utiliza señalización de alta velocidad similar, pero está optimizado para conexiones de chip a chip dentro de un paquete o en una placa, en lugar de entre módulos separados.
Por ejemplo, la CPU Grace tiene 18 enlaces NVLink-C2C, proporcionando hasta 900 GB/s de ancho de banda bidireccional a una GPU Hopper. Este alto ancho de banda permite un movimiento eficiente de datos para IA generativa y modelos transformer, que requieren grandes huellas de memoria y comunicación frecuente entre unidades de cómputo.
Arquitectura y Diseño
NVLink-C2C está diseñado para admitir una variedad de topologías, incluyendo conexiones punto a punto, en malla y basadas en conmutadores. Para un número pequeño de dispositivos, los enlaces directos proporcionan conectividad de todos a todos. Para sistemas más grandes, los conmutadores NVLink (introducidos en 2018) usan una arquitectura de conmutación de paquetes, con cada conmutador admitiendo hasta 32 puertos de dos carriles. El NVSwitch para NVLink 4.0 incluye el acelerador SHARP, que puede realizar cálculos simples como suma y difusión en la red, reduciendo la sobrecarga de comunicación.
NVLink-C2C también incorpora características para confiabilidad y eficiencia energética. Utiliza un código de línea 128b/130b, similar a PCI Express 3.0 y superior, que reduce la sobrecarga en comparación con esquemas de codificación más antiguos. La capa física incluye caracteres de control de enlace y encabezados de transacción, que añaden algo de sobrecarga, pero los puntos de referencia muestran tasas de transferencia alcanzables de aproximadamente el 90-95% del máximo teórico. Por ejemplo, una conexión NVLink de 40 Gbit/s a una GPU P100 logró aproximadamente 35.3 Gbit/s en pruebas del mundo real.
Aplicaciones y Casos de Uso
NVLink-C2C se utiliza principalmente en cómputo de alto rendimiento y centros de datos de IA. Es un componente clave de los sistemas DGX de NVIDIA, que integran múltiples GPU para el entrenamiento e inferencia de modelos grandes. El interconectado también se usa en el Grace Hopper Superchip, que combina una CPU Grace de 72 núcleos con una GPU H100, entregando hasta 900 GB/s de ancho de banda entre ellos. Este diseño es particularmente efectivo para cargas de trabajo limitadas por memoria, como redes neuronales y modelos de lenguaje grandes, donde la velocidad de transferencia de datos es un cuello de botella.
Además de la IA, NVLink-C2C se usa en cómputo científico, donde las simulaciones y el análisis de datos requieren comunicación de alto rendimiento. La tecnología también está siendo adoptada por proveedores de nube como Amazon Web Services y Google Cloud para su infraestructura de IA, así como por chips fabricados por TSMC en sistemas de AMD e Intel que incorporan NVLink-C2C para cómputo heterogéneo.
Comparación con Otros Interconectados
NVLink-C2C compite con otros interconectados de alta velocidad como PCI Express, CXL e InfiniBand. En comparación con PCIe, NVLink-C2C ofrece mayor ancho de banda y menor latencia, ya que está diseñado específicamente para comunicación de chip a chip en lugar de expansión periférica. Por ejemplo, PCIe 5.0 proporciona 32 GT/s por carril, mientras que NVLink 4.0 ofrece 50 Gbit/s por par diferencial, y con más enlaces, el ancho de banda total es significativamente mayor. CXL, que se basa en PCIe, admite el uso compartido de memoria coherente, pero típicamente tiene menor ancho de banda que NVLink-C2C.
NVLink-C2C también difiere de interconectados de red como InfiniBand, que se usan para comunicación de sistema a sistema. NVLink-C2C es para conexiones dentro del sistema, proporcionando menor latencia y mayor ancho de banda que las soluciones de red. Esto lo hace ideal para nodos de cómputo estrechamente acoplados en un solo servidor o rack.
Desarrollos Futuros
NVIDIA continúa evolucionando la tecnología NVLink. NVLink 6, utilizado en la plataforma Vera Rubin NVL72, proporciona 3.6 TB/s de ancho de banda bidireccional por GPU. Un rack NVL72 usa nueve conmutadores NVLink 6 para entregar 260 TB/s de ancho de banda total de escalado. Se espera que estos avances admitan modelos de IA aún más grandes y simulaciones más complejas, manteniendo la posición de NVLink-C2C como un interconectado líder de chip a chip en la industria.
A partir de 2025, NVLink-C2C es un habilitador crítico para la infraestructura de IA, y su adopción está creciendo en las ofertas de AWS, Azure y Oracle Cloud. La tecnología también se está explorando para su uso en dispositivos de borde y aplicaciones automotrices, donde los interconectados de alto ancho de banda y bajo consumo son esenciales.