Graphcore ist ein britisches Halbleiterunternehmen mit Hauptsitz in Bristol, England, das Beschleuniger für künstliche Intelligenz und maschinelles Lernen entwickelt. Das 2016 von Simon Knowles und Nigel Toon gegründete Unternehmen ist vor allem für seine Intelligence Processing Unit (IPU) bekannt, einen massiv parallelen Prozessor, der darauf ausgelegt ist, vollständige Modelle des maschinellen Lernens im On-Chip-Speicher zu halten. Im Juli 2024 wurde Graphcore von der SoftBank Group für etwa 500 Millionen US-Dollar übernommen, nachdem das Unternehmen in einem von Nvidia und anderen etablierten Akteuren dominierten Markt mit kommerziellen Herausforderungen konfrontiert war.
Geschichte
Graphcore wurde 2016 von Simon Knowles und Nigel Toon gegründet, beide Veteranen der Halbleiterindustrie. Knowles hatte zuvor das ARM Holdings-Spin-off Element 14 und den Chipdesigner Icera mitgegründet, während Toon XMOS geleitet und leitende Positionen bei Altera innegehabt hatte. Das Unternehmen zielte darauf ab, eine neue Klasse von Prozessoren zu schaffen, die speziell auf KI-Workloads zugeschnitten ist, und wich damit vom GPU-zentrierten Ansatz ab, der das Feld dominierte.
Im Herbst 2016 sicherte sich Graphcore seine erste Finanzierungsrunde unter der Leitung von Robert Bosch Venture Capital, mit Beteiligung von Samsung Electronics, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital und Pitango. Diese frühe Unterstützung ermöglichte es dem Unternehmen, sein Ingenieurteam zu erweitern und die Entwicklung seiner IPU-Architektur zu beschleunigen.
Im Juli 2017 hob Graphcore eine Serie-B-Runde unter der Leitung von Atomico ein, gefolgt von einer zusätzlichen Investition von 50 Millionen US-Dollar von Sequoia Capital einige Monate später. Diese Kapitalspritze bewertete das Unternehmen mit über 300 Millionen US-Dollar und finanzierte das Tape-out seines ersten Siliziums.
Im Dezember 2018 schloss Graphcore eine Serie-D-Runde über 200 Millionen US-Dollar ab, die die Bewertung auf 1,7 Milliarden US-Dollar erhöhte und dem Unternehmen Einhorn-Status verlieh. Die Runde umfasste Investitionen von Microsoft, Samsung und Dell Technologies. Diese Finanzierung unterstützte den kommerziellen Start seiner ersten Produkte und den Ausbau seines Software-Ökosystems.
Am 13. November 2019 gab Graphcore bekannt, dass seine Graphcore-C2-IPU-Karten für eine Vorschau auf Microsoft Azure verfügbar seien, was einen bedeutenden Meilenstein in der Cloud-Bereitstellung markierte. Die Partnerschaft mit Microsoft bot frühen Kunden Zugang zu IPU-betriebenen Instanzen für KI-Forschung und -Entwicklung.
Anfang 2023 erwarb Meta Platforms das KI-Netzwerktechnologie-Team von Graphcore, ein Schritt, bei dem mehrere Ingenieure zur Infrastrukturgruppe von Meta wechselten. Diese Übernahme war Teil der breiteren Bemühungen von Meta, kundenspezifisches Silizium für seine Rechenzentren zu bauen, obwohl Graphcore sein Kerngeschäft mit IPUs und die verbleibenden Mitarbeiter behielt.
Im Juli 2024 stimmte die SoftBank Group der Übernahme von Graphcore für etwa 500 Millionen US-Dollar zu. Der Deal, der der regulatorischen Prüfung durch die Investitionssicherheitseinheit der britischen Regierung unterlag, markierte das Ende der Unabhängigkeit von Graphcore. Die Übernahme durch SoftBank wurde als strategischer Schritt angesehen, um das KI-Chip-Portfolio zu stärken, das bereits Anteile an ARM Holdings und Nvidia umfasste.
Produkte
Die Hauptproduktlinie von Graphcore ist die Intelligence Processing Unit (IPU), ein Prozessor, der von Grund auf für KI- und maschinelle Lern-Workloads entwickelt wurde. Im Gegensatz zu herkömmlichen GPUs, die für Grafiken optimiert und später für KI angepasst wurden, priorisiert die IPU-Architektur parallele Verarbeitung und On-Chip-Speicherbandbreite.
Im Jahr 2016 kündigte Graphcore den Poplar Software Stack an, die erste graphbasierte Toolchain, die speziell für seine IPU entwickelt wurde. Poplar ermöglicht es Entwicklern, Modelle des maschinellen Lernens auf die vielen Kerne der IPU abzubilden und abstrahiert die Komplexität der parallelen Programmierung.
Im Juli 2017 enthüllte Graphcore seinen ersten Chip, den Colossus GC2, einen 16-nm-Prozessor mit 1.216 Kernen und 256 KB In-Prozessor-Speicher pro Kern. Der GC2 wurde auf einer PCI-Express-Karte namens Graphcore C2 verpackt, die zwei GC2-Chips enthielt und insgesamt 2.432 Kerne und 512 MB On-Chip-Speicher bot. Die C2-Karte war so konzipiert, dass sie ähnlich wie GPUs in Standard-Server eingesetzt werden konnte, und unterstützte gängige Frameworks für maschinelles Lernen wie TensorFlow und PyTorch.
Im Juli 2020 führte Graphcore seinen Prozessor der zweiten Generation ein, den Colossus GC200, der im 7-nm-Verfahren von TSMC hergestellt wurde. Der GC200 verfügte über 1.472 Kerne, 900 MB In-Prozessor-Speicher und 59 Milliarden Transistoren, was ihn zu einem der größten Chips machte, die damals produziert wurden. Der GC200 wurde in den Mk2-IPU-POD-Systemen angeboten, die von einer einzelnen Karte bis zu großen Clustern mit Tausenden von IPUs skaliert werden konnten.
Im Jahr 2022 arbeiteten Graphcore und TSMC am Bow IPU zusammen, einer 3D-verpackten Version des GC200, bei der ein Stromversorgungs-Die mit dem Prozessor-Die verbunden wurde. Diese fortschrittliche Verpackungstechnik ermöglichte höhere Taktraten bei reduziertem Stromverbrauch und verbesserte die Leistung pro Watt insgesamt.
Sowohl der GC2 als auch der GC200 unterstützen 6 Threads pro Kern, wodurch der GC2 7.296 Threads und der GC200 8.832 Threads gleichzeitig ausführen kann. Die Architektur der IPU basiert auf MIMD-Parallelität (Multiple Instruction, Multiple Data), wobei jeder Kern unabhängige Anweisungen ausführt. Im Gegensatz zu GPUs, die auf gemeinsamen Speicherhierarchien basieren, verwendet die IPU verteilten lokalen Speicher, wobei jeder Kern seinen eigenen dedizierten Speicherblock hat. Dieses Design eliminiert die Notwendigkeit einer separaten Cache-Hierarchie, da alle Daten im On-Chip-Speicher liegen, was Latenz und Stromverbrauch reduziert.
Die IPU unterstützt IEEE-754-Halbpräzisions-Gleitkommaarithmetik (FP16) mit stochastischem Runden, was besonders für KI-Training geeignet ist. Sie unterstützt auch Einzelpräzision (FP32) bei geringerer Leistung für Anwendungen, die höhere numerische Genauigkeit erfordern. Der Prozessor ist darauf ausgelegt, vollständige Modelle des maschinellen Lernens innerhalb seines On-Chip-Speichers auszuführen, wodurch häufige Off-Chip-Datenübertragungen vermieden werden, die traditionelle Architekturen ausbremsen.
Der Software-Stack von Graphcore, einschließlich Poplar und der PopART-Bibliothek, bietet Werkzeuge für Modellkompilierung, Optimierung und Ausführung. Das Unternehmen entwickelte auch PopDist, ein Framework für verteiltes Training, und PopSparse, eine Bibliothek für Operationen mit dünnbesetzten Matrizen. Diese Werkzeuge zielen darauf ab, es Entwicklern zu erleichtern, bestehende Modelle auf die IPU zu portieren und ihre einzigartigen Fähigkeiten zu nutzen.
Siehe auch
Referenzen
- "Graphcore - Über uns". Graphcore. Abgerufen am 01.01.2025.
- "Graphcore sammelt 200 Millionen US-Dollar bei 1,7-Milliarden-Bewertung". TechCrunch. 18.12.2018.
- "Meta übernimmt KI-Netzwerkteam von Graphcore". The Register. 10.03.2023.
- "SoftBank übernimmt Graphcore". Financial Times. 11.07.2024.
- "Graphcore enthüllt Colossus GC200". AnandTech. 15.07.2020.
- "Graphcore und TSMC kündigen Bow IPU an". Graphcore-Pressemitteilung. 25.05.2022.