Una unidad de procesamiento gráfico (GPU) es un procesador especializado diseñado originalmente para renderizar imágenes y video mediante la realización de muchos cálculos simples en paralelo. Esa misma arquitectura, miles de núcleos pequeños que ejecutan la misma operación sobre diferentes piezas de datos simultáneamente, resultó ser extremadamente adecuada para las matemáticas de matrices y vectores que subyacen a las redes neuronales, y las GPU se convirtieron en el hardware dominante para entrenar y ejecutar modelos de aprendizaje profundo.
Por qué las GPU son adecuadas para la IA
Entrenar una red neuronal implica la multiplicación y suma repetida de matrices grandes, operaciones que pueden dividirse en muchas piezas independientes y ejecutarse simultáneamente. Una unidad central de procesamiento tiene un pequeño número de núcleos potentes optimizados para tareas secuenciales de propósito general; una GPU tiene miles de núcleos más simples optimizados para este tipo de aritmética paralela y repetitiva. Esta disparidad hizo que las GPU, construidas originalmente para la tarea paralela de calcular colores de píxeles en una pantalla, fueran mucho más rápidas que las CPU en los cálculos de descenso de gradiente utilizados en el entrenamiento y en las multiplicaciones de matrices utilizadas en la inferencia.
Historia
Nvidia, fundada en 1993, estableció la categoría moderna de GPU con sus tarjetas gráficas de consumo, y luego abrió las GPU a la computación de propósito general en 2006 con CUDA, una plataforma de programación que permitió a los desarrolladores escribir código no gráfico para los núcleos paralelos de la GPU. El punto de inflexión para la IA llegó en 2012, cuando AlexNet, entrenada en dos GPU Nvidia GTX 580, ganó la competencia ImageNet por un amplio margen, demostrando que el aprendizaje profundo acelerado por GPU podía superar drásticamente los métodos previos de visión por computadora y provocando un cambio en todo el campo hacia el entrenamiento con GPU. Nvidia posteriormente construyó una línea de GPU para centros de datos específicamente para IA, incluyendo la V100 (2017), A100 (2020), H100 (2022) y chips de la generación Blackwell (2024), cada una sustancialmente más rápida que la anterior en las matemáticas de matrices de baja precisión utilizadas en el aprendizaje profundo.
Mercado e impacto
Para el auge de la IA de principios a mediados de la década de 2020, la demanda de las GPU de centros de datos de Nvidia, impulsada por las necesidades de cómputo para entrenar grandes modelos de lenguaje y otros modelos fundacionales, hizo que Nvidia se convirtiera brevemente en la empresa pública más valiosa del mundo, con chips como el H100 en escasez persistente. Esto consolidó la posición de Nvidia como proveedor dominante de hardware de entrenamiento de IA, reforzada por el estatus de CUDA como el estándar de software de facto para el que están optimizados la mayoría de los marcos de IA, incluidos PyTorch y TensorFlow. Competidores, incluyendo AMD, Intel y aceleradores personalizados como el TPU de Google, han desafiado el dominio de Nvidia, y los principales laboratorios de IA han diseñado cada vez más sus propios chips, pero a partir de 2025 las GPU, y las de Nvidia en particular, siguieron siendo el motor principal del entrenamiento de IA a gran escala y un cuello de botella frecuente y factor de costo para la industria, lo que provocó controles de exportación por parte del gobierno de los Estados Unidos que restringen la venta de sus chips más avanzados a China.