Tenstorrent는 AI 가속기와 RISC-V 프로세서를 설계하고 판매하는 비상장 반도체 기업이다. 2016년에 설립되어 캐나다 토론토에 본사를 두고 있으며, 인공지능 워크로드, 특히 딥러닝과 대규모 언어 모델의 추론 및 훈련을 위한 하드웨어와 소프트웨어 개발에 주력한다. Tenstorrent는 2024년 기준 기업 가치가 10억 달러를 초과하는 유니콘 스타트업으로 인정받고 있다.
이 회사는 AMD와 Intel에서 칩 아키텍트로 근무한 Ljubisa Bajic이 공동 설립했으며, 이후 AMD, Apple, Tesla에서 활동한 저명한 마이크로프로세서 엔지니어인 Jim Keller가 합류했다. Keller는 2021년 최고경영자가 되어 상당한 업계의 주목과 기술적 리더십을 가져왔다.
역사
Tenstorrent는 AMD의 Zen 아키텍처와 Intel의 그래픽 프로세서에서 근무한 Ljubisa Bajic에 의해 2016년에 설립되었다. 이 회사는 처음에 엣지부터 데이터 센터까지 다양한 기기에 걸쳐 확장 가능한 새로운 AI 프로세서 아키텍처를 만드는 것을 목표로 했다. 2018년, Tenstorrent는 추론 작업을 위해 설계된 첫 번째 아키텍처인 Grayskull을 소개했다. Grayskull 프로세서는 2020년에 출시되어 데이터 센터의 머신러닝 추론을 대상으로 했다.
2021년, Jim Keller가 Tenstorrent에 사장 겸 최고기술책임자로 합류했고, 이후 CEO가 되었다. Keller의 지도 아래 회사는 AI 가속기와 RISC-V 기반 CPU를 모두 포함하도록 초점을 전환하여 AI 컴퓨팅을 위한 완전한 솔루션을 제공하는 것을 목표로 했다. 2022년, Tenstorrent는 훈련과 더 큰 모델을 지원하는 2세대 아키텍처인 Wormhole을 발표했다. 회사는 또한 개발 보드와 IP 라이선스를 제공하기 시작하여 더 넓은 범위의 고객이 기술에 접근할 수 있게 했다.
기술 및 제품
Tenstorrent의 핵심 기술은 단일 칩에서 여러 프로세서 코어를 연결하는 메시 기반 아키텍처로, 컴퓨팅 리소스의 효율적인 확장을 가능하게 한다. 회사의 AI 가속기는 신경망 모델, 특히 생성형 AI 애플리케이션에 사용되는 트랜스포머 기반 아키텍처의 추론과 훈련을 모두 처리하도록 설계되었다. 프로세서는 사용자 정의 명령어 세트와 컴파일러 및 런타임을 포함한 소프트웨어 스택을 사용하며, PyTorch 및 TensorFlow와 같은 인기 있는 프레임워크를 지원한다.
주요 제품으로는 Grayskull 및 Wormhole 가속기와 2023년에 발표된 Blackhole 시리즈가 있다. Tenstorrent는 또한 AI 시스템에 통합되는 Ascalon과 같은 RISC-V CPU 코어를 개발한다. 회사는 PCIe 카드부터 전체 서버 시스템까지 다양한 폼 팩터를 제공하며, 자체 칩에 코어를 통합하려는 고객을 위한 IP 라이선스도 제공한다.
시장 위치 및 파트너십
Tenstorrent는 NVIDIA, Cerebras, Groq, SambaNova와 같은 기업들과 AI 칩 시장에서 경쟁한다. 가속기만 전문으로 하는 많은 경쟁사와 달리 Tenstorrent는 오픈소스 RISC-V 코어와 유연한 소프트웨어 스택을 제공함으로써 차별화한다. 회사는 칩 제조를 위해 TSMC와 파트너십을 맺고 고급 공정 노드를 사용한다. 2023년, Tenstorrent는 엣지 기기용 AI 솔루션 개발을 위해 삼성과 협력을 발표했으며, 자동차 애플리케이션을 위해 LG와도 협력했다.
2024년 기준, Tenstorrent는 삼성, Fidelity, Eclipse Ventures를 포함한 투자자들로부터 2억 달러 이상의 자금을 조달했다. 회사의 기업 가치는 2023년 10억 달러에 도달하여 유니콘이 되었다. Tenstorrent의 수익 모델은 하드웨어 판매, IP 라이선스, 소프트웨어 구독을 포함하며, 데이터 센터 및 엣지 AI 시장에 중점을 둔다.
향후 방향
Tenstorrent는 비용 효율적이고 에너지 효율적인 솔루션을 제공하여 AI 가속기 시장에서 입지를 확장하는 것을 목표로 한다. 회사는 AI 가속기와 RISC-V CPU를 단일 칩에 통합한 차세대 아키텍처를 개발 중이며, 이를 통해 대규모 언어 모델 워크로드를 더 효율적으로 처리할 수 있다. Tenstorrent는 또한 소프트웨어 생태계를 성장시켜 개발자가 하드웨어에 AI 모델을 더 쉽게 배포할 수 있도록 계획하고 있다. AI 컴퓨팅에 대한 수요가 증가함에 따라 Tenstorrent는 업계에서 중요한 플레이어로 자리 잡을 수 있지만, 기존 기업 및 다른 스타트업과의 치열한 경쟁에 직면해 있다.