Intel Habana Labs ist die Geschäftseinheit für künstliche Intelligenz-Beschleuniger der Intel Corporation, die nach der Übernahme des israelischen KI-Chip-Startups Habana Labs durch Intel im Dezember 2019 gegründet wurde. Die Abteilung entwickelt spezialisierte Prozessoren, die darauf ausgelegt sind, Machine-Learning- und Deep-Learning-Workloads zu beschleunigen, insbesondere für groß angelegtes Training und Inferenz in Rechenzentren. Zu ihren Produktlinien gehören die Gaudi-Trainingsprozessoren und die Greco-Inferenzprozessoren, die mit Angeboten von NVIDIA, AMD und kundenspezifischen Siliziumlösungen von Cloud-Anbietern wie AWS Trainium und Google TPU konkurrieren. Die Übernahme war Teil der breiteren Strategie von Intel, über das traditionelle CPU-Geschäft hinaus in den schnell wachsenden KI-Hardware-Markt zu expandieren, der durch den Aufstieg großer Sprachmodelle und generativer KI-Systeme von Unternehmen wie OpenAI, Anthropic und Google DeepMind vorangetrieben wurde.
Habana Labs wurde 2016 von David Dahan, Ran Halutz und Eitan Medina gegründet, allesamt Veteranen der israelischen Halbleiterindustrie. Das Unternehmen hatte seinen Hauptsitz in Tel Aviv, Israel, mit weiteren Büros in San Jose, Kalifornien, und anderen Standorten. Vor der Intel-Übernahme hatte Habana erhebliche Risikokapitalfinanzierungen eingeworben, darunter eine Serie-B-Runde über 75 Millionen US-Dollar im Jahr 2018 unter der Leitung von Intel Capital und WRV Capital sowie eine Serie-C-Runde über 120 Millionen US-Dollar im November 2019, nur wenige Wochen vor der Übernahme. Die Übernahme durch Intel wurde auf etwa 2 Milliarden US-Dollar bewertet und war damit eine der größten KI-bezogenen Investitionen von Intel.
Geschichte und Gründung
Habana Labs wurde mit dem Ziel gegründet, speziell entwickelte KI-Prozessoren zu schaffen, die allgemeine GPUs sowohl bei Trainings- als auch bei Inferenzaufgaben übertreffen können. Die Gründer hatten zuvor bei Unternehmen wie Intel, Mellanox und Texas Instruments gearbeitet und wollten die Ineffizienzen der Verwendung von GPUs für KI-Workloads angehen, die oft übermäßig viel Strom und Speicherbandbreite erforderten. Das erste Produkt des Unternehmens, der Goya-Inferenzprozessor, wurde 2018 angekündigt und zeigte starke Leistung bei ResNet-50-Benchmarks, einem gängigen Deep-Learning-Modell für die Bildklassifizierung. Der Goya-Chip wurde entwickelt, um hohen Durchsatz bei geringer Latenz zu liefern, was ihn für Echtzeit-Inferenzanwendungen geeignet machte.
Im Jahr 2019 führte Habana den Gaudi-Trainingsprozessor ein, der für effiziente Skalierung bei groß angelegtem Deep-Learning-Training ausgelegt war. Gaudi verfügte über eine spezialisierte Architektur mit integriertem Ethernet-Netzwerk, sodass mehrere Chips direkt ohne externe Switches verbunden werden konnten, was Kosten und Komplexität in großen Clustern reduzierte. Dieses Design zielte insbesondere auf Rechenzentrumsbetreiber ab, die zunehmend größere neuronale Netze trainieren mussten, wie sie in der Verarbeitung natürlicher Sprache und im Computer Vision verwendet werden.
Übernahme durch Intel
Intel gab die Übernahme von Habana Labs am 16. Dezember 2019 für etwa 2 Milliarden US-Dollar bekannt. Der Deal wurde Anfang 2020 abgeschlossen. Intel integrierte Habana in seine Data Platforms Group, die später in die Accelerated Computing Systems and Graphics Group (AXG) umorganisiert wurde. Die Übernahme war Teil der Strategie von Intel, im KI-Beschleunigermarkt zu konkurrieren, der von NVIDIA-GPUs dominiert wurde. Intel hatte zuvor 2016 Nervana Systems, ein weiteres KI-Chip-Startup, übernommen, aber dieses Projekt wurde letztendlich zugunsten der Technologie von Habana eingestellt. Intels damaliger CEO Bob Swan erklärte, dass Habanas Produkte das bestehende Portfolio von Intel ergänzen und dem Unternehmen helfen würden, die wachsende Nachfrage nach KI-Rechenleistung zu decken.
Nach der Übernahme operierte Habana weiterhin als Tochtergesellschaft, wobei die Gründer und Ingenieure an Bord blieben. Die Abteilung behielt ihren israelischen Hauptsitz und erweiterte ihre Ingenieurteams. Intel investierte auch in die Entwicklung von Software-Tools und Frameworks zur Unterstützung der Habana-Hardware, einschließlich der Integration in beliebte Machine-Learning-Frameworks wie TensorFlow und PyTorch.
Produkte und Architektur
Die Hauptprodukte von Intel Habana Labs sind die Prozessoren Gaudi und Greco. Gaudi ist für das Training groß angelegter Deep-Learning-Modelle ausgelegt, während Greco für Inferenzaufgaben optimiert ist. Beide basieren auf einer kundenspezifischen Architektur, die eine Mischung aus allgemeinen CPU-Kernen, dedizierten KI-Rechenwerken und Hochbandbreitenspeicher umfasst. Der Gaudi-Prozessor, der erstmals 2020 veröffentlicht wurde, verfügt über 32 GB On-Chip-Speicher und unterstützt bis zu 8.000 Gaudi-Prozessoren in einem einzigen Cluster über Ethernet. Die zweite Generation, Gaudi 2, die 2022 auf den Markt kam, verbesserte die Leistung und fügte Unterstützung für größere Modelle hinzu, einschließlich solcher mit Milliarden von Parametern.
Greco, der Inferenzprozessor, wurde 2021 eingeführt und ist für Inferenz-Workloads mit geringer Latenz und hohem Durchsatz ausgelegt. Er unterstützt beliebte Deep-Learning-Modelle wie Transformer, die die Grundlage für große Sprachmodelle wie GPT-4 und BERT bilden. Greco ist in verschiedenen Formfaktoren erhältlich, darunter PCIe-Karten und modulare Systeme, um unterschiedliche Rechenzentrumsbereitstellungen zu ermöglichen.
Intel Habana Labs bietet auch einen Software-Stack namens SynapseAI an, der Compiler, Laufzeitbibliotheken und Tools zur Optimierung von Modellen auf Habana-Hardware umfasst. SynapseAI unterstützt ONNX und gängige Frameworks, sodass Entwickler Modelle mit minimalen Änderungen portieren können. Die Software ist darauf ausgelegt, die Graphausführung und Speichernutzung automatisch zu optimieren, wodurch der Bedarf an manueller Abstimmung reduziert wird.
Marktposition und Wettbewerb
Der KI-Beschleunigermarkt ist stark umkämpft, mit großen Akteuren wie NVIDIA, AMD und Cloud-Anbietern wie Amazon Web Services (AWS) mit seinen Trainium-Chips und Google Cloud mit seinen TPUs. Intel Habana Labs zielt darauf ab, sich durch Kosteneffizienz und Skalierbarkeit zu differenzieren, insbesondere für groß angelegtes Training in Rechenzentren. Gaudis integriertes Ethernet-Netzwerk ist ein wichtiges Verkaufsargument, da es den Bedarf an teuren InfiniBand-Switches reduziert, die von NVIDIAs NVLink- und InfiniBand-Lösungen verwendet werden. Intel hat Habana auch als offenere Alternative positioniert, die branchenübliche Ethernet- und PCIe-Schnittstellen unterstützt.
Trotz dieser Vorteile steht Intel Habana Labs vor Herausforderungen bei der Gewinnung von Marktanteilen. Das CUDA-Software-Ökosystem von NVIDIA ist tief verwurzelt, und viele KI-Entwickler sind daran gewöhnt. Intel hat versucht, dies durch Kompatibilitätsebenen und Tools zur Erleichterung der Migration zu adressieren, aber die Akzeptanz war langsamer als ursprünglich erwartet. Stand 2024 bleibt der Umsatzbeitrag von Intel Habana Labs zum gesamten Rechenzentrumsgeschäft von Intel bescheiden, aber die Abteilung hat mehrere namhafte Kunden gewonnen, darunter Cloud-Service-Anbieter und Forschungseinrichtungen.
Strategische Rolle bei Intel
Intel Habana Labs ist eine Schlüsselkomponente der breiteren KI-Strategie von Intel, die auch die Entwicklung des Intel Gaudi 3-Prozessors umfasst, der 2024 angekündigt wurde. Gaudi 3 soll direkt mit NVIDIAs H100- und H200-GPUs konkurrieren und vergleichbare Leistung zu geringeren Kosten bieten. Intel hat Habana-Technologie auch in seine Xeon-Prozessoren integriert, wodurch KI-Beschleunigung auf allgemeinen CPUs ermöglicht wird. Die Abteilung arbeitet eng mit Intels Foundry-Services zusammen, die Chips für externe Kunden herstellen, sowie mit Intels Software-Teams, um die Kompatibilität mit oneAPI, einem einheitlichen Programmiermodell für heterogenes Computing, sicherzustellen.
Intels Investition in Habana spiegelt die Überzeugung wider, dass KI-Workloads zunehmend spezialisierte Hardware erfordern und dass das Unternehmen seine Fertigungs- und Packaging-Expertise nutzen kann, um wettbewerbsfähige KI-Beschleuniger zu produzieren. Intel stand jedoch in den letzten Jahren vor Fertigungsherausforderungen, einschließlich Verzögerungen bei seinen 7-nm- und 5-nm-Prozessknoten, die die Produktion von Gaudi-Chips beeinträchtigt haben. Stand 2024 hat Intel einen Teil der Produktion von Habana-Prozessoren an TSMC, eine große Halbleiter-Foundry, ausgelagert, um die Nachfrage zu decken.
Auswirkungen und Zukunftsaussichten
Intel Habana Labs hat zur Weiterentwicklung der KI-Hardware beigetragen, indem es eine Alternative zu GPU-basierten Systemen bietet, insbesondere für Organisationen, die Kosteneffizienz und Skalierbarkeit priorisieren. Der Fokus der Abteilung auf Ethernet-basiertes Networking hat andere KI-Chip-Designer wie Groq und SambaNova beeinflusst, die ähnliche Ansätze verwenden. Intels fortgesetzte Investition in Habana deutet darauf hin, dass das Unternehmen KI-Beschleuniger als langfristigen Wachstumsbereich sieht, trotz der wettbewerblichen Herausforderungen.
In Zukunft wird erwartet, dass Intel Habana Labs neue Produkte veröffentlicht, die aufkommende KI-Workloads unterstützen, einschließlich großer Sprachmodelle und generativer KI. Die Abteilung erforscht auch Wege, KI-Beschleunigung in Edge-Geräte und andere Formfaktoren zu integrieren und sich über Rechenzentren hinaus auszudehnen. Stand 2025 hat Intel Pläne angekündigt, sein Foundry-Geschäft auszugliedern, was die Herstellung von Habana-Chips beeinflussen könnte, aber die Abteilung selbst bleibt ein Kernbestandteil der KI-Strategie von Intel.