Groq,Inc.是一家美国人工智能公司,设计和销售AI加速器专用集成电路(ASIC)及相关软件,以加速AI推理。该公司的架构最初以张量流处理器(TSP)之名推出,但在ChatGPT取得突破后,随着大型语言模型的广泛采用,后来更名为语言处理器(LPU)。Groq的LPU旨在以高性能和高效率运行AI工作负载,如大型语言模型、图像分类和预测分析。
公司总部位于加利福尼亚州山景城,Groq还在加利福尼亚州圣何塞、华盛顿州利伯蒂湖、加拿大多伦多和英国伦敦设有办公室,并在北美和欧洲拥有远程员工。2025年12月,Nvidia和Groq宣布了一项据报道价值约200亿美元的协议,以授权Groq的AI推理技术并将数名Groq高级管理人员转移至Nvidia,而Groq表示将继续作为独立公司运营。
历史
Groq于2016年由一群前谷歌工程师创立,由乔纳森·罗斯(Jonathan Ross)领导,他是张量处理单元(TPU)的设计者之一,以及道格拉斯·怀特曼(Douglas Wightman),一位企业家和前谷歌X工程师,担任公司首任CEO。公司于2017年从Social Capital的查马斯·帕里哈皮蒂亚(Chamath Palihapitiya)获得1000万美元的种子资金,随后又获得额外融资。
2021年4月,Groq在由Tiger Global Management和D1 Capital Partners领投的C轮融资中筹集了3亿美元,公司估值超过10亿美元,成为独角兽企业。当前投资者包括Infinitum、The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital和Tru Arrow Partners,并获得了Infinitum、TDK Ventures和XTX Ventures的追加投资。
2022年3月1日,Groq收购了Maxeler Technologies,一家以数据流系统技术闻名的公司。由于奥斯卡·门瑟博士(Dr. Oskar Mencer)及其团队的长期成就,Maxeler保留了其品牌。
2023年8月16日,Groq选择三星电子位于得克萨斯州泰勒市的代工厂,在其4纳米(nm)工艺节点上制造下一代芯片,这是该新工厂的首笔订单。
2024年2月19日,Groq软启动了开发者平台GroqCloud,以吸引开发者使用Groq API并租用其芯片访问权限。2024年3月1日,Groq收购了Definitive Intelligence,一家提供面向企业的AI解决方案的初创公司,以支持其云平台。
2024年8月,Groq在由BlackRock Private Equity Partners领投的D轮融资中筹集了6.4亿美元,公司估值为28亿美元。2025年2月10日,Groq宣布沙特阿拉伯王国承诺投资15亿美元,以扩大其基于LPU的AI推理基础设施的交付,并与沙特阿拉伯达曼的一个新GroqCloud数据中心相关联。截至2025年,Groq已在美国、加拿大、中东和欧洲建立了十几个数据中心。
2025年12月,Nvidia同意以约200亿美元从Groq购买资产,创下Nvidia的纪录。Groq将该交易描述为非排他性许可协议。作为交易的一部分,Groq创始人乔纳森·罗斯和总裁桑尼·马德拉(Sunny Madra)将加入Nvidia。2026年5月,据报道Groq正在从现有投资者处筹集6.5亿美元,以资助其向AI推理云业务的转型,该轮融资结构为按比例配售,由投资者Disruptive和Infinitum提供支持。
语言处理器
Groq的ASIC最初命名为张量流处理器(TSP),代号为“Alan”,但后来由品牌副总裁马克·希普斯(Mark Heaps)和CEO兼创始人乔纳森·罗斯更名为语言处理器(LPU),以使处理器的性质更加明确。
LPU采用功能切片微架构,其中存储单元与向量和矩阵计算单元交错排列。这种设计有助于利用AI计算图中的数据流局部性,提高执行性能和效率。LPU的设计基于两个关键观察:AI工作负载表现出大量的数据并行性,可以映射到专用硬件上;确定性处理器设计与生产者-消费者编程模型相结合,允许对硬件组件进行精确控制和推理,优化性能和能效。
LPU还具有单核、确定性架构。它避免了传统的响应式硬件组件,如分支预测器、仲裁器、重排序缓冲区和缓存,所有执行均由编译器显式控制,确保LPU程序的确定性执行。
第一代LPU(TSP)在其25×29毫米的14nm芯片上,以900 MHz的标称时钟频率运行,计算密度超过每平方毫米硅片1 TeraOp/s。第二代(LPU v2)采用三星的4nm工艺节点制造。
Groq在其LPU上托管开源大型语言模型供公众访问,可通过Groq网站及其开发者游乐场使用。
GroqCloud平台
GroqCloud是该公司的开发者平台,提供对其基于LPU的推理服务的API访问。该平台于2024年2月推出,允许开发者租用Groq芯片的访问权限,并将AI推理集成到其应用程序中。该平台支持各种大型语言模型,并在吸引开发者社区方面发挥了重要作用。
融资与估值
Groq的融资历史包括2017年的1000万美元种子投资、2021年4月的3亿美元C轮融资(公司估值超过10亿美元)以及2024年8月的6.4亿美元D轮融资(公司估值为28亿美元)。2025年2月,公司从沙特阿拉伯获得了15亿美元的承诺投资。2026年5月,据报道Groq正在从现有投资者处筹集6.5亿美元,以资助其向AI推理云业务的转型。
合作与制造
Groq选择三星电子位于得克萨斯州泰勒市的代工厂,在其4nm工艺节点上制造下一代芯片,这一合作始于2023年8月。该公司还与多个组织合作,在全球多个数据中心部署其技术。
参见
- 中央处理器
- 图形处理器
- 张量处理单元
参考文献
本文基于公开来源的信息,包括公司公告和新闻稿。