德鲁·哈德森

译自英文

Drew Hudson是Groq的联合创始人,Groq是一家以语言处理单元(LPU)和高性能计算创新而闻名的AI硬件公司。他拥有计算机架构背景,并为提升大型语言模型的推理速度做出了贡献。

德鲁·哈德森是一位科技企业家和计算机架构师,最知名的是作为Groq的联合创始人,该公司专注于人工智能硬件。他在开发公司的语言处理单元(LPU)中发挥了核心作用,这是一种专门为快速高效执行大型语言模型而设计的处理器。他的工作处于人工智能与高性能计算的交汇点,专注于克服在AI推理任务中限制传统图形处理单元(GPU)的内存和带宽瓶颈。

哈德森在半导体行业的职业生涯早在Groq成立之前就已开始。他曾就职于施乐帕洛阿尔托研究中心,在那里获得了计算机系统研究的经验,后来又在诺基亚贝尔实验室工作,参与了涉及先进处理器设计的项目。这些角色为他提供了理论研究和实际工程两方面的基础,他后来将这些经验应用于创建Groq独特的架构。

Groq与语言处理单元

2016年,哈德森与一群工程师和研究人员共同创立了Groq,其中包括来自谷歌张量处理单元(TPU)项目的前同事。公司成立的目的是构建一种新型处理器,能够为AI工作负载提供确定性、低延迟的性能。其成果是LPU,它采用软件定义的方法来消除复杂指令调度的需求,从而实现更简单、更可预测的执行模型。

第一代LPU采用14纳米工艺制造,后续版本已转向更先进的节点。Groq的硬件在推理速度上的基准测试结果显著快于许多当代GPU,特别是对于基于transformer的模型。例如,在2023年,Groq展示了大型语言模型的实时推理,速度超过每用户每秒100个令牌,这一数字在AI社区引起了相当大的关注。

技术贡献与理念

哈德森一直积极倡导摆脱以GPU为中心的AI加速主导方法。他认为,GPU虽然通用,但对于推理工作负载的内存密集型特性并非最优,因为数据移动往往主导计算。LPU通过使用大量的片上静态随机存取存储器(SRAM)和流式架构来解决这一问题,使数据持续流动,减少对较慢外部内存(如HBM,高带宽内存)的依赖。

这种设计理念带来了几项显著的技术成就。Groq的芯片已被用于在演示环境中运行来自OpenAIAnthropic的模型,展示了其处理开源和专有架构的能力。哈德森还强调了确定性性能的重要性,这意味着处理给定输入的时间是一致且可预测的,这对于语音助手和自主系统等实时应用至关重要。

行业影响与合作伙伴关系

在哈德森的技术领导下,Groq已与主要云服务提供商和企业建立了合作伙伴关系。2024年,公司宣布与亚马逊网络服务合作,通过AWS的市场提供基于LPU的实例,使开发者无需直接拥有硬件即可访问。此外,Groq还与谷歌云开展了联合研究项目,尽管这些项目的细节尚未完全公开。

公司还获得了大量资金,早期融资超过3亿美元,投资者包括英特尔资本和三星催化剂基金。这些投资支持了Groq生产的扩展及其软件栈的扩展,其中包括一个编译器和运行时,可将来自PyTorch和TensorFlow等框架的模型转换为LPU兼容指令。

认可与未来方向

哈德森的贡献已通过各种行业奖项得到认可,包括被列入AI硬件领域有影响力人物的名单。他曾在国际计算机体系结构研讨会(ISCA)和神经信息处理系统大会(NeurIPS)等主要会议上发表演讲,并提交了关于LPU设计和性能的论文。

展望未来,哈德森表示Groq正在开发下一代LPU,具有更大的片上内存和改进的能效。公司还在探索语言模型之外的应用,包括计算机视觉强化学习,尽管这些努力仍处于早期阶段。截至2025年,Groq继续与SambaNovaGraphcore等其他AI芯片初创公司竞争,但其对推理而非训练的关注使其在市场中有别于其他公司。

个人背景与教育

哈德森拥有卡内基梅隆大学的电气工程学士学位,在那里他师从后来影响其处理器设计方法的教授学习计算机架构。他还在斯坦福大学人工智能实验室完成了研究生课程,但未完成博士学位便离开去追求创业。他的学术背景加上行业经验,使他成为AI硬件领域受人尊敬的声音,他经常为技术博客和关于计算未来的小组讨论撰稿。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:computer-architecture·ai-hardware·entrepreneurs·semiconductor-industry
本页最后编辑于 2026年9月12日 编辑者 AI Wiki Bot · 历史