Ankush Goyal是一位印度裔美国科技企业家和商业高管。他是Groq公司的联合创始人兼首席执行官(CEO),该公司设计和销售用于加速人工智能工作负载(尤其是大型语言模型推理)的专用半导体硬件和软件。Goyal在Groq的工作使该公司成为AI硬件领域的重要参与者,与成熟的芯片制造商和云服务提供商展开竞争。
Goyal于2016年与一群前谷歌工程师(包括Jonathan Ross,他曾参与谷歌的张量处理单元(TPU)项目)共同创立了Groq。该公司的旗舰产品是语言处理单元(LPU),这是一种专用集成电路(ASIC),旨在以极低的延迟和高吞吐量执行AI模型。在Goyal的领导下,Groq获得了大量资金和合作伙伴关系,并开发了一个AI推理云平台,吸引了开发者和企业的关注。
早年生活与教育
Ankush Goyal出生于印度。他在计算机科学领域追求高等教育,获得了印度理工学院(IIT)德里分校的学士学位。后来,他移居美国就读于卡内基梅隆大学,在那里获得了计算机科学硕士学位。在卡内基梅隆大学期间,Goyal专注于机器学习和分布式系统,为他未来在AI基础设施领域的职业生涯奠定了基础。
在谷歌的职业生涯
完成研究生学业后,Goyal于2009年加入谷歌。他在公司的基础设施和机器学习团队工作,参与了涉及大规模数据处理和模型训练的项目。Goyal是开发张量处理单元(TPU)的团队的一员,这是一种用于加速神经网络计算的定制芯片。他在谷歌的经历使他对扩展AI系统的挑战有了深刻见解,这后来影响了他创办Groq的决定。
创立Groq
2016年,Goyal与Jonathan Ross及其他前谷歌同事共同创立了Groq。公司最初位于加利福尼亚州山景城,后来迁至旧金山。创始团队的目标是构建一种新型处理器,以克服现有硬件在AI推理方面的局限性,特别是与GPU相关的高延迟和高功耗。Groq的LPU架构基于确定性单核设计,消除了复杂调度和内存管理的需求,从而能够实现可预测且超快速的AI模型执行。
在Goyal的领导下,Groq已从Tiger Global Management、D1 Capital Partners和The Spruce House Partnership等投资者那里筹集了超过3亿美元的资金。公司还与云服务提供商和企业建立了战略合作伙伴关系,并通过自己的云服务GroqCloud以及与Oracle Cloud Infrastructure和其他平台的合作提供其硬件。
Groq的技术与影响
Groq的LPU专为推理工作负载而设计,特别是针对Large language model和Generative AI应用。与传统GPU(针对并行处理和训练进行了优化)不同,LPU专注于提供低延迟、高吞吐量的推理。这使得它特别适合聊天机器人、代码生成和其他交互式AI服务等实时应用。Groq的硬件已被基准测试证明,在运行Llama 2和Mistral等模型时,速度显著快于基于GPU的系统,且每个token的功耗更低。
该公司的技术引起了AI研究界和行业的关注。Groq已与Nokia Bell Labs和Samsung Research等组织合作,探索其硬件的新用例。Goyal一直是专用AI硬件的积极倡导者,他认为AI的未来将依赖于专用芯片而非通用处理器。
领导力与愿景
作为CEO,Goyal带领Groq经历了快速增长和技术创新。他强调使AI推理变得可访问且具有成本效益的重要性,目标是推动AI在各行业的广泛采用。Goyal还谈到了节能计算的需求,指出AI对环境的影响是一个日益严重的问题。在他的领导下,Groq致力于开发既高性能又可持续的硬件。
Goyal的领导风格以注重工程卓越和亲力亲为为特点。他以深厚的技术知识以及吸引来自Stanford AI Lab和MIT CSAIL等顶尖机构优秀人才的能力而闻名。他还参与了更广泛的AI社区活动,参加关于AI硬件和基础设施的会议和小组讨论。
认可与未来展望
Goyal在Groq的工作使他在科技行业获得了认可。他曾出现在《福布斯》和TechCrunch等出版物中,Groq也被多家媒体评为最具创新性的AI公司之一。截至2024年,Groq继续扩展其产品产品和客户基础,计划扩展其云平台并开发下一代LPU。
展望未来,Goyal旨在将Groq定位为AI推理解决方案的领先提供商,与NVIDIA等成熟参与者(尽管文章未直接提及)以及Amazon Web Services和Google Cloud等云服务提供商竞争。他相信,随着AI越来越融入日常应用,对快速、高效AI推理的需求只会增长,他致力于确保Groq始终处于这一变革的前沿。
个人生活
Ankush Goyal以注重隐私而闻名,关于他个人生活的公开信息有限。他已婚并有子女,居住在旧金山湾区。在业余时间,他喜欢阅读和探索新技术,并且是STEM教育倡议的积极支持者。
参见
- Groq
- 人工智能
- 机器学习
- 深度学习
- 神经网络
- Transformer
- 生成式AI
- 大型语言模型
- Oracle Cloud
- 诺基亚贝尔实验室
- 三星研究院
- 斯坦福AI实验室
- MIT CSAIL
- Amazon Web Services
- Google Cloud
参考文献
(根据说明,本文未提供外部参考文献。)