인텔 하바나 랩스(Intel Habana Labs)는 인텔 코퍼레이션의 인공지능 가속기 사업 부문으로, 2019년 12월 인텔이 이스라엘 AI 칩 스타트업인 하바나 랩스를 인수한 후 설립되었다. 이 부문은 머신러닝과 딥러닝 워크로드, 특히 데이터 센터에서의 대규모 학습과 추론을 가속화하도록 설계된 특수 프로세서를 개발한다. 제품 라인에는 가우디(Gaudi) 학습 프로세서와 그레코(Greco) 추론 프로세서가 포함되며, 이들은 엔비디아, AMD, 그리고 AWS Trainium 및 구글 TPU와 같은 클라우드 제공업체의 맞춤형 실리콘과 경쟁한다. 이 인수는 인텔이 전통적인 CPU 사업을 넘어 급성장하는 AI 하드웨어 시장으로 확장하려는 광범위한 전략의 일환이었으며, 이 시장은 OpenAI, Anthropic, Google DeepMind와 같은 기업이 개발한 대규모 언어 모델과 생성형 AI 시스템의 부상에 의해 주도되었다.
하바나 랩스는 2016년 이스라엘 반도체 산업의 베테랑인 데이비드 다한(David Dahan), 란 할루츠(Ran Halutz), 에이탄 메디나(Eitan Medina)에 의해 설립되었다. 회사는 이스라엘 텔아비브에 본사를 두었으며, 캘리포니아주 새너제이 및 기타 지역에 추가 사무소를 두었다. 인텔 인수 전에 하바나는 상당한 벤처 캐피털 자금을 조달했으며, 2018년 인텔 캐피털과 WRV 캐피털이 주도한 7,500만 달러 규모의 시리즈 B 라운드와 인수 몇 주 전인 2019년 11월 1억 2,000만 달러 규모의 시리즈 C 라운드를 포함한다. 인텔의 인수 가치는 약 20억 달러로 평가되어 인텔의 AI 관련 투자 중 가장 큰 규모 중 하나가 되었다.
역사와 설립
하바나 랩스는 학습 및 추론 작업 모두에서 범용 GPU를 능가할 수 있는 목적 맞춤형 AI 프로세서를 만드는 목표로 설립되었다. 창립자들은 이전에 인텔, 멜라녹스, 텍사스 인스트루먼츠와 같은 회사에서 근무했으며, 종종 과도한 전력과 메모리 대역폭을 요구하는 AI 워크로드에 GPU를 사용할 때의 비효율성을 해결하고자 했다. 회사의 첫 번째 제품인 고야(Goya) 추론 프로세서는 2018년에 발표되었으며, 이미지 분류를 위한 일반적인 딥러닝 모델인 ResNet-50 벤치마크에서 강력한 성능을 입증했다. 고야 칩은 높은 처리량과 낮은 지연 시간을 제공하도록 설계되어 실시간 추론 애플리케이션에 적합했다.
2019년, 하바나는 대규모 딥러닝 학습을 위해 효율적으로 확장되도록 설계된 가우디 학습 프로세서를 도입했다. 가우디는 통합 이더넷 네트워킹을 갖춘 특수 아키텍처를 특징으로 하여, 여러 칩을 외부 스위치 없이 직접 연결할 수 있게 하여 대규모 클러스터의 비용과 복잡성을 줄였다. 이 설계는 특히 자연어 처리와 컴퓨터 비전에 사용되는 점점 더 큰 신경망을 학습해야 하는 데이터 센터 운영자를 대상으로 했다.
인텔에 의한 인수
인텔은 2019년 12월 16일 약 20억 달러에 하바나 랩스 인수를 발표했다. 거래는 2020년 초에 완료되었다. 인텔은 하바나를 데이터 플랫폼 그룹에 통합했으며, 이 그룹은 나중에 가속 컴퓨팅 시스템 및 그래픽 그룹(AXG)으로 재편성되었다. 이 인수는 엔비디아의 GPU가 지배해 온 AI 가속기 시장에서 경쟁하려는 인텔의 전략의 일부였다. 인텔은 이전에 2016년 또 다른 AI 칩 스타트업인 너바나 시스템즈를 인수했지만, 그 프로젝트는 결국 하바나의 기술을 선호하여 중단되었다. 당시 인텔 CEO였던 밥 스완은 하바나의 제품이 인텔의 기존 포트폴리오를 보완하고 AI 컴퓨팅에 대한 증가하는 수요를 해결하는 데 도움이 될 것이라고 밝혔다.
인수 후, 하바나는 자회사로 계속 운영되었으며, 창립자와 엔지니어들은 그 자리를 유지했다. 이 부문은 이스라엘 본사를 유지하고 엔지니어링 팀을 확장했다. 인텔은 또한 TensorFlow 및 PyTorch와 같은 인기 있는 머신러닝 프레임워크와의 통합을 포함하여 하바나 하드웨어를 지원하는 소프트웨어 도구와 프레임워크 개발에 투자했다.
제품 및 아키텍처
인텔 하바나 랩스의 주요 제품은 가우디와 그레코 프로세서이다. 가우디는 대규모 딥러닝 모델 학습을 위해 설계되었으며, 그레코는 추론 작업에 최적화되어 있다. 둘 다 범용 CPU 코어, 전용 AI 컴퓨팅 엔진, 고대역폭 메모리의 혼합을 포함하는 맞춤형 아키텍처를 기반으로 한다. 2020년에 처음 출시된 가우디 프로세서는 32GB의 온칩 메모리를 갖추고 있으며 이더넷을 통해 단일 클러스터에서 최대 8,000개의 가우디 프로세서를 지원한다. 2022년에 출시된 2세대 가우디 2는 성능을 개선하고 수십억 개의 매개변수를 가진 모델을 포함한 더 큰 모델에 대한 지원을 추가했다.
추론 프로세서인 그레코는 2021년에 도입되었으며 저지연, 고처리량 추론 워크로드를 위해 설계되었다. GPT-4 및 BERT와 같은 대규모 언어 모델의 기반이 되는 트랜스포머와 같은 인기 있는 딥러닝 모델을 지원한다. 그레코는 PCIe 카드 및 모듈식 시스템을 포함한 다양한 폼 팩터로 제공되어 다양한 데이터 센터 배포에 적합하다.
인텔 하바나 랩스는 또한 하바나 하드웨어에서 모델을 최적화하기 위한 컴파일러, 런타임 라이브러리 및 도구를 포함하는 SynapseAI라는 소프트웨어 스택을 제공한다. SynapseAI는 ONNX 및 일반적인 프레임워크를 지원하여 개발자가 최소한의 변경으로 모델을 이식할 수 있게 한다. 이 소프트웨어는 그래프 실행과 메모리 사용을 자동으로 최적화하여 수동 튜닝의 필요성을 줄이도록 설계되었다.
시장 위치 및 경쟁
AI 가속기 시장은 매우 경쟁적이며, 주요 플레이어로는 엔비디아, AMD, 그리고 Trainium 칩을 갖춘 아마존 웹 서비스(AWS) 및 TPU를 갖춘 구글 클라우드와 같은 클라우드 제공업체가 있다. 인텔 하바나 랩스는 특히 데이터 센터의 대규모 학습에서 비용 효율성과 확장성을 통해 차별화를 목표로 한다. 가우디의 통합 이더넷 네트워킹은 엔비디아의 NVLink 및 인피니밴드 솔루션에서 사용되는 값비싼 인피니밴드 스위치의 필요성을 줄여주는 핵심 판매 포인트이다. 인텔은 또한 하바나를 산업 표준 이더넷 및 PCIe 인터페이스를 지원하는 더 개방적인 대안으로 포지셔닝했다.
이러한 장점에도 불구하고, 인텔 하바나 랩스는 시장 점유율을 확보하는 데 어려움을 겪고 있다. 엔비디아의 CUDA 소프트웨어 생태계는 깊이 자리 잡고 있으며, 많은 AI 개발자가 이를 사용하는 데 익숙하다. 인텔은 마이그레이션을 용이하게 하기 위해 호환성 계층과 도구를 제공하여 이를 해결하려고 시도했지만, 채택은 처음 예상보다 느렸다. 2024년 기준으로 인텔 하바나 랩스의 인텔 전체 데이터 센터 사업에 대한 매출 기여는 여전히 미미하지만, 이 부문은 클라우드 서비스 제공업체와 연구 기관을 포함한 여러 주목할 만한 고객을 확보했다.
인텔 내 전략적 역할
인텔 하바나 랩스는 2024년에 발표된 인텔 가우디 3 프로세서 개발을 포함하는 인텔의 광범위한 AI 전략의 핵심 구성 요소이다. 가우디 3는 엔비디아의 H100 및 H200 GPU와 직접 경쟁하여 더 낮은 비용으로 유사한 성능을 제공할 것으로 예상된다. 인텔은 또한 하바나 기술을 제온 프로세서에 통합하여 범용 CPU에서 AI 가속을 가능하게 했다. 이 부문은 외부 고객을 위해 칩을 제조하는 인텔의 파운드리 서비스 및 이기종 컴퓨팅을 위한 통합 프로그래밍 모델인 oneAPI와의 호환성을 보장하는 인텔의 소프트웨어 팀과 긴밀히 협력한다.
하바나에 대한 인텔의 투자는 AI 워크로드가 점점 더 특수 하드웨어를 요구할 것이며, 회사가 제조 및 패키징 전문성을 활용하여 경쟁력 있는 AI 가속기를 생산할 수 있다는 믿음을 반영한다. 그러나 인텔은 최근 몇 년 동안 7nm 및 5nm 공정 노드의 지연을 포함한 제조 문제에 직면했으며, 이는 가우디 칩 생산에 영향을 미쳤다. 2024년 기준으로 인텔은 수요를 충족하기 위해 하바나 프로세서의 일부 생산을 주요 반도체 파운드리인 TSMC에 아웃소싱했다.
영향 및 향후 전망
인텔 하바나 랩스는 특히 비용 효율성과 확장성을 우선시하는 조직을 위해 GPU 기반 시스템에 대한 대안을 제공함으로써 AI 하드웨어 발전에 기여했다. 이 부문의 이더넷 기반 네트워킹에 대한 초점은 유사한 접근 방식을 사용하는 Groq 및 SambaNova와 같은 다른 AI 칩 설계자에게 영향을 미쳤다. 인텔의 하바나에 대한 지속적인 투자는 경쟁적 어려움에도 불구하고 회사가 AI 가속기를 장기 성장 영역으로 보고 있음을 시사한다.
앞으로 인텔 하바나 랩스는 대규모 언어 모델 및 생성형 AI를 포함한 새로운 AI 워크로드를 지원하는 신제품을 출시할 것으로 예상된다. 이 부문은 또한 데이터 센터를 넘어 엣지 장치 및 기타 폼 팩터에 AI 가속을 통합하는 방법을 모색하고 있다. 2025년 기준으로 인텔은 파운드리 사업 분사 계획을 발표했으며, 이는 하바나 칩 제조에 영향을 미칠 수 있지만, 부문 자체는 인텔의 AI 전략의 핵심 부분으로 남아 있다.