Groq, Inc.는 AI 추론을 가속화하기 위해 AI 가속기 주문형 집적 회로(ASIC) 및 관련 소프트웨어를 설계하고 판매하는 미국의 인공지능 기업이다. 이 회사의 아키텍처는 원래 Tensor Streaming Processor(TSP)로 소개되었지만, ChatGPT의 돌파 이후 대규모 언어 모델의 광범위한 채택에 따라 Language Processing Unit(LPU)으로 브랜드가 변경되었다. Groq의 LPU는 대규모 언어 모델, 이미지 분류, 예측 분석과 같은 AI 워크로드를 높은 성능과 효율로 실행하도록 설계되었다.
캘리포니아주 마운틴뷰에 본사를 둔 Groq는 캘리포니아주 새너제이, 워싱턴주 리버티레이크, 캐나다 토론토, 영국 런던에도 사무소를 두고 있으며, 북미와 유럽 전역에 원격 직원을 두고 있다. 2025년 12월, Nvidia와 Groq는 약 200억 달러 규모로 평가되는 계약을 발표했으며, 이 계약에는 Groq의 AI 추론 기술 라이선스와 Groq의 고위 임원 여러 명의 Nvidia 이적이 포함되었지만, Groq는 독립 기업으로 계속 운영될 것이라고 밝혔다.
역사
Groq는 2016년 Tensor Processing Unit(TPU) 설계자 중 한 명인 Jonathan Ross가 이끄는 전 Google 엔지니어 그룹과 Google X 출신의 기업가이자 전 엔지니어인 Douglas Wightman(초대 CEO 역임)에 의해 설립되었다. 이 회사는 2017년 Social Capital의 Chamath Palihapitiya로부터 1,000만 달러의 시드 투자를 받았으며, 이후 추가 자금을 확보했다.
2021년 4월, Groq는 Tiger Global Management와 D1 Capital Partners가 주도한 시리즈 C 라운드에서 3억 달러를 모금하여 기업 가치가 10억 달러를 넘어 유니콘 기업이 되었다. 현재 투자자로는 Infinitum, The Spruce House Partnership, Addition, GCM Grosvenor, Xⁿ, Firebolt Ventures, General Global Capital, Tru Arrow Partners가 있으며, Infinitum, TDK Ventures, XTX Ventures의 후속 투자도 포함된다.
2022년 3월 1일, Groq는 데이터플로우 시스템 기술로 알려진 Maxeler Technologies를 인수했다. Maxeler는 Dr. Oskar Mencer와 팀의 오랜 업적으로 인해 브랜드를 유지했다.
2023년 8월 16일, Groq는 삼성전자의 텍사스주 테일러 파운드리에서 삼성의 4나노미터(nm) 공정 노드로 차세대 칩을 제조하기로 선택했으며, 이는 이 새로운 공장의 첫 주문이 되었다.
2024년 2월 19일, Groq는 개발자 플랫폼인 GroqCloud를 소프트 런칭하여 개발자들이 Groq API를 사용하고 칩에 대한 액세스를 임대할 수 있도록 했다. 2024년 3월 1일, Groq는 클라우드 플랫폼을 지원하기 위해 비즈니스 중심 AI 솔루션을 제공하는 스타트업 Definitive Intelligence를 인수했다.
2024년 8월, Groq는 BlackRock Private Equity Partners가 주도한 시리즈 D 라운드에서 6억 4,000만 달러를 모금하여 기업 가치를 28억 달러로 평가받았다. 2025년 2월 10일, Groq는 사우디아라비아 왕국으로부터 LPU 기반 AI 추론 인프라 확장을 위해 15억 달러 규모의 자금 약정을 발표했으며, 이는 사우디아라비아 담맘에 새로운 GroqCloud 데이터 센터와 연결된다. 2025년 기준으로 Groq는 미국, 캐나다, 중동, 유럽 전역에 12개의 데이터 센터를 설립했다.
2025년 12월, Nvidia는 약 200억 달러에 Groq의 자산을 인수하기로 합의했으며, 이는 Nvidia의 기록적인 규모였다. Groq는 이 거래를 비독점 라이선스 계약으로 설명했다. 이 거래의 일환으로 Groq 설립자 Jonathan Ross와 사장 Sunny Madra가 Nvidia에 합류할 예정이었다. 2026년 5월, Groq는 AI 추론 클라우드 사업으로의 전환 자금을 마련하기 위해 기존 투자자들로부터 6억 5,000만 달러를 모금 중인 것으로 보도되었으며, 이 라운드는 Disruptive와 Infinitum 투자자가 후원하는 비례 배정 방식으로 구성되었다.
Language Processing Unit
Groq의 ASIC는 처음에 코드명 "Alan"인 Tensor Streaming Processor(TSP)로 명명되었지만, 나중에 브랜드 부사장 Mark Heaps와 CEO/설립자 Jonathan Ross에 의해 프로세서의 특성을 더 명확히 하기 위해 Language Processing Unit(LPU)으로 브랜드가 변경되었다.
LPU는 기능적으로 분할된 마이크로아키텍처를 특징으로 하며, 메모리 유닛이 벡터 및 행렬 계산 유닛과 인터리브된다. 이 설계는 AI 계산 그래프에서 데이터플로우 지역성을 활용하여 실행 성능과 효율을 향상시킨다. LPU는 두 가지 핵심 관찰에 기반하여 설계되었다: AI 워크로드는 목적에 맞게 제작된 하드웨어에 매핑할 수 있는 상당한 데이터 병렬성을 나타내며, 결정론적 프로세서 설계와 생산자-소비자 프로그래밍 모델의 결합은 하드웨어 구성 요소에 대한 정밀한 제어와 추론을 가능하게 하여 성능과 에너지 효율을 최적화한다.
LPU는 또한 단일 코어, 결정론적 아키텍처를 갖는다. 분기 예측기, 중재기, 재정렬 버퍼, 캐시와 같은 전통적인 반응형 하드웨어 구성 요소를 피하며, 모든 실행은 컴파일러에 의해 명시적으로 제어되어 LPU 프로그램의 결정론적 실행을 보장한다.
LPU의 1세대(TSP)는 900 MHz의 공칭 클록 주파수로 작동하는 25×29 mm 14nm 칩에서 실리콘 1제곱밀리미터당 1 TeraOp/s 이상의 계산 밀도를 제공한다. 2세대(LPU v2)는 삼성의 4nm 공정 노드로 제조된다.
Groq는 공개 액세스를 위해 LPU에서 실행되는 오픈소스 대규모 언어 모델을 호스팅하며, Groq 웹사이트와 개발자용 플레이그라운드를 통해 제공된다.
GroqCloud 플랫폼
GroqCloud는 LPU 기반 추론 서비스에 대한 API 액세스를 제공하는 회사의 개발자 플랫폼이다. 2024년 2월에 출시된 이 플랫폼은 개발자가 Groq의 칩에 대한 액세스를 임대하고 AI 추론을 애플리케이션에 통합할 수 있도록 한다. 이 플랫폼은 다양한 대규모 언어 모델을 지원하며 개발자 커뮤니티를 유치하는 데 중요한 역할을 했다.
자금 및 기업 가치
Groq의 자금 조달 이력에는 2017년 1,000만 달러의 시드 투자, 2021년 4월 3억 달러의 시리즈 C(기업 가치 10억 달러 이상), 2024년 8월 6억 4,000만 달러의 시리즈 D(기업 가치 28억 달러)가 포함된다. 2025년 2월, 이 회사는 사우디아라비아로부터 15억 달러의 자금 약정을 확보했다. 2026년 5월, Groq는 AI 추론 클라우드 사업으로의 전환 자금을 마련하기 위해 기존 투자자들로부터 6억 5,000만 달러를 모금 중인 것으로 보도되었다.
파트너십 및 제조
Groq는 2023년 8월에 시작된 파트너십으로 삼성전자의 텍사스주 테일러 파운드리에서 4nm 공정 노드로 차세대 칩을 제조하기로 선택했다. 이 회사는 또한 전 세계 여러 데이터 센터에 기술을 배포하기 위해 다양한 조직과 협력했다.
같이 보기
- 중앙 처리 장치
- 그래픽 처리 장치
- Tensor processing unit
참고 자료
이 문서는 회사 발표 및 보도 자료를 포함한 공개 출처의 정보를 기반으로 작성되었다.