Tensor Core est une unité de traitement spécialisée intégrée aux cartes graphiques NVIDIA et aux GPU de centre de données, conçue pour effectuer des opérations de multiplication-accumulation matricielle à haute vitesse. Ces opérations constituent la base mathématique des réseaux neuronaux, en particulier dans les applications d'intelligence artificielle et d'apprentissage profond. Contrairement aux cœurs CUDA standard, qui gèrent le calcul parallèle à usage général, les Tensor Cores sont optimisés pour l'algèbre linéaire dense qui sous-tend l'entraînement et l'inférence des modèles.
Les premiers Tensor Cores sont apparus dans l'architecture Volta, lancée en décembre 2017 avec le GPU Tesla V100 pour centre de données. Cela a marqué un tournant dans la conception des GPU, ajoutant du matériel dédié aux charges de travail d'IA aux côtés du traitement graphique traditionnel. En 2018, NVIDIA a étendu les Tensor Cores aux produits grand public avec la série GeForce RTX 20, commercialisée sous l'architecture Turing. Ces GPU grand public utilisaient les Tensor Cores pour le débruitage du lancer de rayons en temps réel et la technologie Deep Learning Super Sampling (DLSS), qui exploite l'IA pour mettre à l'échelle des images en basse résolution.
Architecture et fonctionnement
Un Tensor Core effectue une opération de multiplication-accumulation fusionnée sur une petite matrice, généralement de taille 4x4 ou plus, en un seul cycle d'horloge. Par exemple, la conception Volta traite des opérations matricielles 4x4x4, tandis que les architectures plus récentes comme Ampere et Hopper ont étendu cette capacité à des formats plus grands et ajouté la prise en charge du calcul matriciel creux. Cette efficacité provient de la réduction du nombre d'instructions nécessaires pour les opérations mathématiques, le matériel gérant l'ensemble de l'opération en une seule étape plutôt que d'émettre plusieurs instructions scalaires.
Les Tensor Cores prennent en charge diverses précisions numériques, notamment FP16, BF16, INT8 et FP8, permettant aux développeurs de faire un compromis entre précision et vitesse. L'entraînement en précision mixte, où les modèles utilisent FP16 pour les passes avant et arrière et FP32 pour les mises à jour des poids, est devenu une pratique courante après que les Tensor Cores ont démontré des accélérations significatives. Le matériel comprend également des unités spécialisées pour des opérations comme la transposition de matrices et l'accumulation de résultats, réduisant encore les goulots d'étranglement.
Rôle dans l'apprentissage profond
Les Tensor Cores sont essentiels à l'entraînement et au déploiement de réseaux neuronaux à grande échelle, notamment les grands modèles de langage et les architectures de transformeurs. Entraîner un modèle comme GPT-3 ou un système d'IA générative moderne nécessite des milliards de multiplications matricielles ; les Tensor Cores accélèrent ces opérations d'un ordre de grandeur par rapport aux cœurs GPU traditionnels. Cela en a fait un différenciateur clé pour NVIDIA sur le marché du matériel d'IA, en concurrence avec des alternatives comme AWS Trainium, TPU de Google Cloud et accélérateurs Instinct d'AMD.
L'inférence, le processus d'exécution d'un modèle entraîné, bénéficie également des Tensor Cores. De nombreux fournisseurs de cloud, notamment Amazon Web Services, Microsoft Azure et Oracle Cloud, proposent des instances GPU avec Tensor Cores pour les charges de travail d'IA. L'efficacité matérielle dans le traitement des opérations matricielles a également influencé les frameworks logiciels ; des bibliothèques comme cuBLAS et cuDNN sont optimisées pour exploiter automatiquement les Tensor Cores, les rendant accessibles aux développeurs sans programmation de bas niveau.
Applications au-delà de l'IA
Les Tensor Cores ne se limitent pas aux réseaux neuronaux. Ils accélèrent les tâches de calcul scientifique impliquant l'algèbre linéaire dense, comme les simulations en physique, chimie et finance. Les systèmes de calcul haute performance, y compris plusieurs sur la liste TOP500, utilisent des GPU NVIDIA avec Tensor Cores pour des charges de travail allant de la modélisation climatique à la dynamique moléculaire. De plus, les Tensor Cores permettent des fonctionnalités d'IA en temps réel dans les logiciels grand public, comme DLSS dans les jeux vidéo et l'amélioration vidéo basée sur l'IA dans les applications créatives.
La Nintendo Switch 2, sortie le 5 juin 2025, est devenue la première console de jeux vidéo à intégrer des Tensor Cores, les utilisant pour DLSS afin d'améliorer la fidélité graphique. Cette adoption illustre l'expansion de la technologie au-delà des marchés traditionnels des PC et des centres de données.
Évolution générationnelle
NVIDIA a fait évoluer les conceptions de Tensor Cores à travers les architectures. Turing a introduit les Tensor Cores grand public avec prise en charge INT8 et INT4 pour l'inférence. Ampere, sorti en 2020, a ajouté des Tensor Cores de troisième génération avec prise en charge BF16 et amélioré le calcul creux. Hopper, lancé en 2022, a introduit le Transformer Engine, qui sélectionne automatiquement la précision pour les modèles de transformeurs. Blackwell, annoncé en 2024, a encore affiné ces capacités avec la prise en charge FP4 et des performances améliorées pour les grands modèles de langage.
Chaque génération a également élargi l'écosystème logiciel. La plateforme CUDA de NVIDIA, ainsi que des bibliothèques comme TensorRT et des frameworks tels que PyTorch et TensorFlow, a évolué pour tirer parti des nouvelles fonctionnalités des Tensor Cores. Cette intégration étroite entre matériel et logiciel a contribué à maintenir la domination de NVIDIA dans l'accélération de l'IA, malgré la concurrence de Intel, Qualcomm et Samsung Electronics dans divers segments du matériel d'IA.
Impact et avenir
Les Tensor Cores sont devenus une technologie fondamentale dans l'industrie de l'IA, permettant des avancées dans apprentissage profond, IA générative et grands modèles de langage. Ils ont également influencé la conception d'autres accélérateurs d'IA, poussant l'industrie vers du matériel spécialisé pour le calcul matriciel. À mesure que les modèles d'IA deviennent plus grands et plus complexes, les Tensor Cores devraient évoluer avec de nouvelles précisions, des tailles de matrices plus grandes et une intégration plus étroite avec les systèmes mémoire. La feuille de route de NVIDIA suggère un investissement continu dans cette technologie, les futures architectures devant probablement brouiller encore davantage la frontière entre le traitement graphique et l'IA.