Das Tensor Processing Unit v5 (TPU v5) ist ein anwendungsspezifischer integrierter Schaltkreis (ASIC), der von Google entwickelt wurde, um maschinelles Lernen und künstliche Intelligenz Workloads zu beschleunigen, insbesondere Deep-Learning-Modelle wie Transformer-basierte große Sprachmodelle. Als fünfte Generation der Google-TPU-Familie baut es auf den architektonischen Prinzipien seiner Vorgänger auf und betont hochvolumige Berechnungen mit niedriger Präzision (z. B. 8-Bit oder weniger) sowie optimierte Eingabe-/Ausgabeoperationen pro Joule, ohne die Rasterisierungs- oder Textur-Mapping-Hardware, die in Grafikprozessoren (GPUs) zu finden ist. TPU v5 ist darauf ausgelegt, Frameworks wie TensorFlow, JAX und PyTorch zu unterstützen, und wird in den Rechenzentren von Google eingesetzt sowie über Google Cloud-Dienste angeboten. Im Vergleich zu GPUs werden TPUs wie v5 häufig für Inferenz in Transformer-basierten Workflows verwendet, während GPUs häufig für das Training eingesetzt werden, obwohl TPUs auch Trainingsaufgaben unterstützen.
Design und Architektur
TPU v5 setzt Googles Tradition fort, eine systolische Array-Architektur für die Matrixmultiplikation zu verwenden, ein Design, das auf frühere systolische Systeme wie WARP zurückgeht und durch das ursprüngliche TPU populär gemacht wurde. Der Chip ist für hohen Durchsatz mit reduzierter Präzision ausgelegt und ermöglicht eine effiziente Ausführung neuronaler Netzwerkoperationen. Er wird mit einer Kühlkörper-Baugruppe verpackt, die in Standard-Rack-Slots von Rechenzentren passt, ähnlich wie frühere TPU-Generationen. Die v5-Generation enthält wahrscheinlich Verbesserungen bei Speicherbandbreite und Rechendichte gegenüber dem TPU v4, obwohl spezifische technische Details (z. B. Die-Größe, Taktrate, Speicherkapazität) bis 2025 nicht öffentlich bekannt gegeben wurden. Googles TPUs sind proprietär, und Broadcom fungiert als Co-Entwickler, der Googles Architektur in fertigungsfähiges Silizium übersetzt, wobei die Fertigung über Drittanbieter-Foundries wie TSMC verwaltet wird.
Geschichte und Entwicklung
Das TPU-Programm begann 2013, als Google Amir Salek rekrutierte, um kundenspezifische Siliziumfähigkeiten aufzubauen. Salek leitete die Entwicklung des ursprünglichen TPU und nachfolgender Generationen, einschließlich TPU v2, v3, v4 und Edge TPU. Das erste TPU wurde im Mai 2016 auf der Google I/O angekündigt, nachdem es seit 2015 intern verwendet worden war. Norman P. Jouppi war technischer Leiter und Hauptarchitekt, und sein Papier von 2017 zeigte eine 15–30-fach höhere Leistung und eine 30–80-fach höhere Leistung pro Watt im Vergleich zu zeitgenössischen CPUs und GPUs. TPU v5 stellt die neueste Iteration dar, die nach dem TPU v4 eingeführt wurde, das 2021 angekündigt wurde. Bis 2025 generiert Google Cloud erhebliche Einnahmen aus TPU-Systemen, und die v5-Generation wird als Schlüsselprodukt erwartet.
Leistung und Anwendungsfälle
TPU v5 ist sowohl für das Training als auch für die Inferenz von neuronalen Netzwerk-Modellen optimiert, insbesondere für große Transformer, die in generativen KI-Anwendungen verwendet werden. In Workflows mit LLMs werden TPUs oft für die Inferenz verwendet, während GPUs für das Training eingesetzt werden, aber TPU v5 zielt darauf ab, in beiden Bereichen zu glänzen. Google hat TPUs für Dienste wie Google Photos (Verarbeitung von über 100 Millionen Fotos pro Tag pro Chip), Textextraktion bei Google Street View und RankBrain für Suchergebnisse verwendet. TPU v5 setzt diesen Trend wahrscheinlich fort und ermöglicht eine schnellere und effizientere Verarbeitung von KI-Workloads in der Cloud.
Bereitstellung und Ökosystem
TPUs sind Dritten über den Cloud-TPU-Dienst von Google Cloud sowie über Kaggle- und Colaboratory-Notebooks zugänglich. Im September 2025 führte Google Gespräche mit "Neoclouds" wie Crusoe und CoreWeave über die Bereitstellung von TPUs in deren Rechenzentren, und im November 2025 stand Meta in Gesprächen mit Google, um TPUs in seinen KI-Rechenzentren einzusetzen. Dies deutet darauf hin, dass TPU v5 möglicherweise über die eigene Infrastruktur von Google hinaus bereitgestellt wird und sein Ökosystem erweitert. Die proprietäre Natur von TPUs bedeutet, dass der Zugang hauptsächlich über Cloud-Dienste erfolgt, aber das wachsende Interesse externer Anbieter weist auf einen breiteren Adoptionstrend hin.
Vergleich mit anderen KI-Beschleunigern
TPU v5 konkurriert mit anderen KI-Beschleunigern wie AWS Trainium, den Wafer-Scale-Engines von Cerebras, den Sprachverarbeitungseinheiten von Groq und den Dataflow-Prozessoren von SambaNova. Während GPUs von Nvidia (nicht aufgelistet) weiterhin dominant für das Training sind, bieten TPUs eine spezialisierte Alternative mit hoher Effizienz für spezifische Workloads. Die Wahl zwischen TPUs und GPUs hängt von der Modellarchitektur ab: TPUs eignen sich gut für CNNs und Transformer, während GPUs von vollständig verbundenen Netzwerken profitieren können und CPUs für RNNs vorteilhaft sein können. Das Design von TPU v5 zielt darauf ab, Googles Wettbewerbsvorteil in der KI-Infrastruktur zu erhalten, insbesondere da die Nachfrage nach groß angelegten KI-Diensten wächst.