AMD Instinct ist eine Marke für Grafikprozessoren (GPUs) für Rechenzentren, die von AMD entwickelt wurde. Die 2016 als Nachfolger der FirePro-S-Serie eingeführte Produktfamilie Instinct ist darauf ausgelegt, Deep Learning, Künstliche Intelligenz-Workloads und Hochleistungsrechnen (HPC) zu beschleunigen. Im Gegensatz zu AMDs Radeon-Marke, die sich an Verbraucher- und Gaming-Märkte richtet, sind Instinct-Karten für rechenintensive Aufgaben wie das Training von neuronalen Netzen und die Ausführung großer wissenschaftlicher Simulationen optimiert. Die Marke konkurriert direkt mit Nvidias Datencenter-GPU-Angeboten und Intels Xeon-Phi- und Data-Center-GPU-Linien.
Die Produktlinie wurde ursprünglich als AMD Radeon Instinct vermarktet, aber AMD ließ die Radeon-Markierung vor dem Start der MI100 im November 2020 fallen. Seitdem hat sich die Instinct-Serie über mehrere Architekturen weiterentwickelt und fortschrittliche Verpackungs- und Speichertechnologien integriert, um den wachsenden Anforderungen von generativer KI und maschinellem Lernen gerecht zu werden. Ab 2023 haben AMD-basierte Supercomputer mit Instinct-GPUs führende Positionen in globalen Leistungs- und Effizienzrankings erreicht.
Frühe Produkte (2016-2017)
AMD kündigte die ersten drei Radeon-Instinct-Produkte am 12. Dezember 2016 an und veröffentlichte sie am 20. Juni 2017. Jede Karte basierte auf einer anderen GPU-Architektur und zielte auf unterschiedliche Segmente des Computermarktes ab.
MI6
Die MI6 verwendete einen Polaris-10-Chip mit 16 GB GDDR5-Speicher und einer thermischen Verlustleistung (TDP) unter 150 W. Sie lieferte 5,7 TFLOPS FP16- und FP32-Leistung und war damit hauptsächlich für Inferenzaufgaben statt für Training geeignet. Ihre Spitzenleistung bei doppelter Genauigkeit (FP64) betrug 358 GFLOPS. Die Karte war passiv gekühlt, was ihr stromsparendes Design widerspiegelte.
MI8
Die MI8 basierte auf der Fiji-Architektur, ähnlich der Radeon R9 Nano, mit einer TDP unter 175 W. Sie verfügte über 4 GB High Bandwidth Memory (HBM) und erreichte 8,2 TFLOPS in FP16 und FP32. Wie die MI6 war sie auf Inferenz-Workloads ausgerichtet, mit einer Spitzen-FP64-Leistung von 512 GFLOPS.
MI25
Die MI25 nutzte eine Vega-Architektur mit HBM2-Speicher. Sie lieferte 12,3 TFLOPS in FP32 und konnte durch Nutzung von Arithmetik mit geringerer Genauigkeit 24,6 TFLOPS in FP16 erreichen. Die Karte hatte eine TDP unter 300 W mit passiver Kühlung und bot 768 GFLOPS Spitzen-FP64-Leistung bei einem Sechzehntel der FP32-Rate. Die MI25 war sowohl für Training als auch Inferenz positioniert und profitierte von den verbesserten Rechenfähigkeiten der Vega-Architektur.
MI50 und MI60 (Vega 20)
Die MI50 und MI60, basierend auf der Vega-20-Variante der Graphics-Core-Next-Architektur (GCN) 5, wurden als letzte Instinct-Karten mit der Radeon-Markierung eingeführt. Sie unterstützten FP64-Leistung mit halber Rate, eine erhebliche Verbesserung gegenüber früheren Modellen, und behielten die Fähigkeit, Display-Ausgabe zu erzeugen. Diese Karten wurden in frühen Exascale- und HPC-Bereitstellungen verwendet und überbrückten die Lücke zwischen Workstation- und Datencenter-Rollen.
MI100-Serie (CDNA 1)
Die MI100-Serie, die im November 2020 auf den Markt kam, markierte den Übergang zu AMDs CDNA-Architektur (Compute DNA), die speziell für Rechen-Workloads entwickelt wurde. Die CDNA-1-Karten entfernten alle rendernbezogenen Hardwarekomponenten wie Rasterisierungseinheiten und fügten Matrixverarbeitungseinheiten hinzu, um Transformer-Modelle und andere Deep-Learning-Operationen zu beschleunigen. Diese Architektur legte den Grundstein für AMDs nachfolgende KI-fokussierte Beschleuniger.
MI300-Serie (CDNA 3)
Die MI300A und MI300X, die Ende 2023 eingeführt wurden, sind Datencenter-Beschleuniger, die auf der CDNA-3-Architektur basieren und für HPC- und generative-KI-Workloads optimiert sind. Die Architektur verwendet ein skalierbares Chiplet-Design und nutzt TSMCs fortschrittliche Verpackungstechnologien, einschließlich CoWoS (Chip-on-Wafer-on-Substrate) und InFO (Integrated Fan-Out), um mehrere Chiplets auf einem einzigen Interposer zu kombinieren. AMDs Infinity-Fabric-Interconnect ermöglicht eine Hochgeschwindigkeits-Datenübertragung mit geringer Latenz zwischen Chiplets und dem Host-System.
MI300A
Die MI300A ist eine beschleunigte Verarbeitungseinheit (APU), die 24 Zen-4-CPU-Kerne mit vier CDNA-3-GPU-Kernen integriert, insgesamt 228 Compute Units (CUs) im GPU-Bereich und 128 GB HBM3-Speicher. Die Zen-4-Kerne, die in einem 5-nm-Prozess gefertigt werden, unterstützen den x86-64-Befehlssatz, AVX-512 und BFloat16-Erweiterungen, sodass sie allgemeine Anwendungen ausführen und Host-seitige Berechnungen bereitstellen können. Die MI300A erreicht eine Spitzenleistung von 61,3 TFLOPS FP64 (122,6 TFLOPS mit FP64-Matrixoperationen) und 980,6 TFLOPS FP16 (1961,2 TFLOPS mit Sparsity), mit 5,3 TB/s Speicherbandbreite. Sie unterstützt PCIe-5.0- und CXL-2.0-Schnittstellen für heterogene Systemintegration.
MI300X
Die MI300X ist ein dedizierter Beschleuniger für generative KI, der die CPU-Kerne durch zusätzliche GPU-Ressourcen ersetzt, was zu 304 CUs und 192 GB HBM3-Speicher führt. Sie ist für Anwendungen wie natürliche Sprachverarbeitung, Computer Vision und Deep Learning konzipiert. Die MI300X liefert 653,7 TFLOPS TF32-Leistung (1307,4 TFLOPS mit Sparsity) und 1307,4 TFLOPS FP16 (2614,9 TFLOPS mit Sparsity), mit derselben Speicherbandbreite von 5,3 TB/s. Sie unterstützt PCIe 5.0 und CXL 2.0 sowie AMDs ROCm-Software-Stack, der ein einheitliches Programmiermodell für die Entwicklung und Bereitstellung generativer KI-Anwendungen bietet.
MI350-Serie (CDNA 4)
Die MI350X und MI355X, die 2025 angekündigt wurden, basieren auf der CDNA-4-Architektur und zielen auf fortgeschrittenes KI-Training und Inferenz ab. Sie werden in TSMCs 3-nm-Prozess (N3) gefertigt und verfügen über ein Hochleistungs-Chiplet-Design mit 288 GB HBM3E-Speicher und 8 TB/s Bandbreite. CDNA 4 führt native Unterstützung für die Niedrigpräzisionsformate FP4 und FP6 ein, zusätzlich zu FP8 und FP16, und steigert die FP4-Rechenleistung auf bis zu 9,2 PetaFLOPS bei der MI355X. Die Architektur behält den Infinity-Fabric-Interconnect für effizienten Datentransit bei. Im Jahr 2026 veröffentlichte AMD die MI350P als PCIe-Karte mit ungefähr der Hälfte der Rechenkapazität und des Strombedarfs der MI350X, was eine zugänglichere Option für bestimmte Bereitstellungen bietet.
Software-Stack
ROCm
AMDs Software-Ökosystem für Instinct-Produkte ist unter dem Meta-Projekt Radeon Open Compute (ROCm) organisiert, das eine Sammlung von Treibern, Bibliotheken und Werkzeugen für GPU-Computing bereitstellt. ROCm ist darauf ausgelegt, mit Nvidias CUDA-Plattform zu konkurrieren und bietet eine Open-Source-Alternative für Entwickler.
MxGPU
Die MI6, MI8 und MI25 unterstützen AMDs MxGPU-Virtualisierungstechnologie, die die gemeinsame Nutzung von GPU-Ressourcen über mehrere Benutzer oder virtuelle Maschinen hinweg ermöglicht. Diese Funktion ist für Cloud- und Unternehmensumgebungen wertvoll, in denen eine effiziente Ressourcennutzung entscheidend ist.
MIOpen
MIOpen ist AMDs Deep-Learning-Bibliothek, die die GPU-Beschleunigung des Trainings und der Inferenz neuronaler Netze ermöglicht. Sie erweitert die GPUOpen-Boltzmann-Initiative-Software und unterstützt beliebte Frameworks wie Theano, Caffe, TensorFlow, MXNet, Microsoft Cognitive Toolkit, Torch und Chainer. Die Programmierung wird in OpenCL und Python unterstützt, und AMDs Heterogeneous-compute Interface for Portability (HIP) und der Heterogeneous Compute Compiler ermöglichen die Kompilierung von CUDA-Code zur Ausführung auf AMD-Hardware, was die Migration für Entwickler erleichtert.
Leistung und Marktposition
Im Juni 2022 übernahmen Supercomputer, die auf AMDs Epyc-CPUs und Instinct-GPUs basieren, die Führung auf der Green500-Liste der energieeffizientesten Supercomputer und belegten die ersten vier Plätze mit einem Vorsprung von über 50 % gegenüber jedem anderen System. Einer davon, der Frontier-Supercomputer, ist seit Juni 2022 der schnellste der Welt auf der TOP500-Liste und blieb dies auch im Jahr 2023. Diese Leistung hob die Effizienz und Rechenfähigkeit der Instinct-Beschleuniger in groß angelegten HPC-Umgebungen hervor.
Die Instinct-Linie entwickelt sich weiterhin als Reaktion auf das schnelle Wachstum von großen Sprachmodellen und generativer KI, wobei jede Generation Speicherkapazität, Bandbreite und Unterstützung für Niedrigpräzisionsformate erhöht, um den Anforderungen von Training und Inferenz in großem Maßstab gerecht zu werden.
Siehe auch
- AMD - Das Mutterunternehmen
- Intel - Ein Wettbewerber bei Datencenter-GPUs
- TSMC - Hersteller fortschrittlicher Chips
- Künstliche Intelligenz - Primäres Anwendungsgebiet