Tenstorrent ist ein privates Halbleiterunternehmen, das KI-Beschleuniger und RISC-V-Prozessoren entwirft und verkauft. Das 2016 gegründete und in Toronto, Kanada, ansässige Unternehmen konzentriert sich auf die Entwicklung von Hardware und Software für künstliche Intelligenz-Workloads, einschließlich Deep Learning und Large-Language-Model-Inferenz und -Training. Tenstorrent gilt als Einhorn-Startup mit einer Bewertung von über 1 Milliarde US-Dollar im Jahr 2024.
Das Unternehmen wurde von Ljubisa Bajic mitgegründet, einem ehemaligen Chip-Architekten bei AMD und Intel, und später von Jim Keller unterstützt, einem prominenten Mikroprozessoringenieur, der für seine Arbeit bei AMD, Apple und Tesla bekannt ist. Keller wurde 2021 Chief Executive Officer und brachte dem Unternehmen erhebliche Branchenaufmerksamkeit und technische Führung.
Geschichte
Tenstorrent wurde 2016 von Ljubisa Bajic gegründet, der zuvor an AMDs Zen-Architektur und Intels Grafikprozessoren gearbeitet hatte. Das Unternehmen wollte zunächst eine neuartige KI-Prozessorarchitektur entwickeln, die über eine breite Palette von Geräten skaliert werden kann, vom Edge-Bereich bis zum Rechenzentrum. 2018 stellte Tenstorrent seine erste Architektur namens Grayskull vor, die für Inferenzaufgaben entwickelt wurde. Der Grayskull-Prozessor wurde 2020 veröffentlicht und zielte auf maschinelles Lernen-Inferenz in Rechenzentren ab.
2021 kam Jim Keller als Präsident und Chief Technology Officer zu Tenstorrent und wurde später CEO. Unter Kellers Führung verlagerte das Unternehmen seinen Fokus auf sowohl KI-Beschleuniger als auch RISC-V-basierte CPUs, um eine vollständige Lösung für KI-Computing anzubieten. 2022 kündigte Tenstorrent seine Architektur der zweiten Generation, Wormhole, an, die Unterstützung für Training und größere Modelle hinzufügte. Das Unternehmen begann auch, Entwicklungsboards und IP-Lizenzierung anzubieten, um seine Technologie einem breiteren Kundenkreis zugänglich zu machen.
Technologie und Produkte
Die Kerntechnologie von Tenstorrent ist eine mesh-basierte Architektur, die mehrere Prozessorkerne auf einem einzigen Chip verbindet und so eine effiziente Skalierung der Rechenressourcen ermöglicht. Die KI-Beschleuniger des Unternehmens sind für Inferenz und Training von neuronalen Netzen-Modellen ausgelegt, einschließlich Transformer-basierter Architekturen, die in generativer KI-Anwendungen verwendet werden. Die Prozessoren verwenden einen benutzerdefinierten Befehlssatz und einen Software-Stack, der einen Compiler und eine Laufzeitumgebung umfasst und beliebte Frameworks wie PyTorch und TensorFlow unterstützt.
Zu den wichtigsten Produkten gehören die Grayskull- und Wormhole-Beschleuniger sowie die Blackhole-Serie, die 2023 angekündigt wurde. Tenstorrent entwickelt auch RISC-V-CPU-Kerne wie den Ascalon, die in seine KI-Systeme integriert sind. Das Unternehmen bietet eine Reihe von Formfaktoren an, von PCIe-Karten bis hin zu vollständigen Serversystemen, und bietet IP-Lizenzierung für Kunden an, die seine Kerne in ihre eigenen Chips integrieren möchten.
Marktposition und Partnerschaften
Tenstorrent konkurriert im KI-Chip-Markt mit Unternehmen wie NVIDIA (nicht in Liste, aber impliziert), Cerebras, Groq und SambaNova. Im Gegensatz zu vielen Wettbewerbern, die sich nur auf Beschleuniger konzentrieren, differenziert sich Tenstorrent durch das Angebot von Open-Source-RISC-V-Kernen und einem flexiblen Software-Stack. Das Unternehmen hat mit TSMC für die Herstellung seiner Chips unter Verwendung fortschrittlicher Prozessknoten zusammengearbeitet. 2023 kündigte Tenstorrent eine Zusammenarbeit mit Samsung zur Entwicklung von KI-Lösungen für Edge-Geräte an, und es hat auch mit LG (nicht in Liste) an Automobilanwendungen gearbeitet.
Bis 2024 hat Tenstorrent über 200 Millionen US-Dollar an Finanzmitteln von Investoren wie Samsung, Fidelity und Eclipse Ventures aufgebracht. Die Bewertung des Unternehmens erreichte 2023 1 Milliarde US-Dollar, was es zu einem Einhorn macht. Das Umsatzmodell von Tenstorrent umfasst Hardwareverkäufe, IP-Lizenzierung und Software-Abonnements, mit einem Fokus auf Rechenzentrums- und Edge-KI-Märkte.
Zukünftige Richtungen
Tenstorrent strebt an, seine Präsenz im KI-Beschleunigermarkt durch kostengünstige und energieeffiziente Lösungen auszubauen. Das Unternehmen arbeitet an Architekturen der nächsten Generation, die KI-Beschleuniger mit RISC-V-CPUs auf einem einzigen Chip integrieren, um eine effizientere Verarbeitung von Large-Language-Model-Workloads zu ermöglichen. Tenstorrent plant auch, sein Software-Ökosystem zu erweitern, um Entwicklern die Bereitstellung von KI-Modellen auf seiner Hardware zu erleichtern. Angesichts der steigenden Nachfrage nach KI-Computing ist Tenstorrent gut positioniert, um ein bedeutender Akteur in der Branche zu sein, obwohl es intensivem Wettbewerb durch etablierte Unternehmen und andere Startups ausgesetzt ist.