Ankush Goyal은 인도계 미국인 기술 기업가이자 경영진이다. 그는 인공지능 워크로드, 특히 대규모 언어 모델 추론을 가속화하기 위한 특수 반도체 하드웨어와 소프트웨어를 설계하고 판매하는 회사인 Groq의 공동 창립자이자 최고경영자(CEO)이다. Groq에서의 Goyal의 작업은 이 회사를 AI 하드웨어 분야에서 주목할 만한 플레이어로 자리매김하게 했으며, 기존 칩 제조사 및 클라우드 제공업체와 경쟁하고 있다.
Goyal은 2016년에 Jonathan Ross를 포함한 전 Google 엔지니어 팀과 함께 Groq를 공동 창립했다. Ross는 이전에 Google의 Tensor Processing Unit(TPU) 프로젝트에서 작업한 바 있다. 이 회사의 대표 제품은 Language Processing Unit(LPU)으로, 극도로 낮은 지연 시간과 높은 처리량으로 AI 모델을 실행하도록 설계된 주문형 집적 회로(ASIC)이다. Goyal의 리더십 아래 Groq는 상당한 자금과 파트너십을 확보했으며, 개발자와 기업의 관심을 끌어온 AI 추론용 클라우드 플랫폼을 개발했다.
초기 생애 및 교육
Ankush Goyal은 인도에서 태어났다. 그는 컴퓨터 과학 분야의 고등 교육을 받았으며, 인도 공과대학(IIT) 델리에서 학사 학위를 취득했다. 이후 미국으로 건너가 카네기 멜론 대학교에 진학하여 컴퓨터 과학 석사 학위를 받았다. 카네기 멜론 재학 중 Goyal은 머신 러닝과 분산 시스템에 집중했으며, 이는 이후 AI 인프라 분야에서의 그의 경력의 기초가 되었다.
Google에서의 경력
대학원 연구를 마친 후 Goyal은 2009년에 Google에 합류했다. 그는 회사의 인프라 및 머신 러닝 팀에서 일하며 대규모 데이터 처리와 모델 훈련과 관련된 프로젝트에 기여했다. Goyal은 신경망 계산을 가속화하도록 설계된 맞춤형 칩인 Tensor Processing Unit(TPU)을 개발한 팀의 일원이었다. Google에서의 경험은 그에게 AI 시스템 확장의 과제에 대한 깊은 통찰력을 제공했으며, 이는 이후 Groq를 설립하기로 한 결정에 영향을 미쳤다.
Groq 설립
2016년, Goyal은 Jonathan Ross 및 다른 전 Google 동료들과 함께 Groq를 공동 창립했다. 회사는 처음에 캘리포니아주 마운틴뷰에 기반을 두었으며, 이후 샌프란시스코로 이전했다. 창립 팀은 AI 추론을 위한 기존 하드웨어의 한계, 특히 GPU와 관련된 높은 지연 시간과 전력 소비를 극복할 새로운 유형의 프로세서를 구축하는 것을 목표로 했다. Groq의 LPU 아키텍처는 결정적이고 단일 코어 설계를 기반으로 하여 복잡한 스케줄링과 메모리 관리를 제거하고, AI 모델의 예측 가능하고 초고속 실행을 가능하게 한다.
Goyal의 리더십 아래 Groq는 Tiger Global Management, D1 Capital Partners, The Spruce House Partnership을 포함한 투자자들로부터 3억 달러 이상의 자금을 조달했다. 회사는 또한 클라우드 제공업체 및 기업과 전략적 파트너십을 형성했으며, 자체 클라우드 서비스인 GroqCloud와 Oracle Cloud Infrastructure 및 기타 플랫폼과의 파트너십을 통해 하드웨어를 제공하고 있다.
Groq의 기술 및 영향
Groq의 LPU는 특히 추론 워크로드, 특히 Large language model 및 기타 Generative AI 애플리케이션을 위해 설계되었다. 병렬 처리와 훈련에 최적화된 기존 GPU와 달리 LPU는 저지연, 고처리량 추론을 제공하는 데 중점을 둔다. 이는 챗봇, 코드 생성 및 기타 대화형 AI 서비스와 같은 실시간 애플리케이션에 특히 적합하다. Groq의 하드웨어는 Llama 2 및 Mistral과 같은 모델을 GPU 기반 시스템보다 훨씬 빠른 속도로 실행하고 토큰당 전력 소비가 더 낮은 것으로 벤치마킹되었다.
회사의 기술은 AI 연구 커뮤니티와 업계의 관심을 끌었다. Groq는 Nokia Bell Labs 및 Samsung Research와 같은 조직과 협력하여 하드웨어의 새로운 사용 사례를 탐구했다. Goyal은 특수 AI 하드웨어에 대한 목소리 높은 옹호자였으며, AI의 미래는 범용 프로세서가 아닌 목적에 맞게 설계된 칩에 달려 있다고 주장해 왔다.
리더십 및 비전
CEO로서 Goyal은 Groq를 빠른 성장과 기술 혁신으로 이끌었다. 그는 AI 추론을 접근 가능하고 비용 효율적으로 만드는 것의 중요성을 강조했으며, 산업 전반에 걸쳐 AI의 광범위한 채택을 가능하게 하는 것을 목표로 삼았다. Goyal은 또한 에너지 효율적인 컴퓨팅의 필요성에 대해 언급하며, AI의 환경적 영향이 증가하는 우려 사항이라고 지적했다. 그의 리더십 아래 Groq는 고성능이면서도 지속 가능한 하드웨어를 개발하기 위해 노력하고 있다.
Goyal의 리더십 스타일은 엔지니어링 우수성에 대한 집중과 실무 접근 방식으로 특징지어진다. 그는 깊은 기술적 지식과 Stanford AI Lab 및 MIT CSAIL과 같은 주요 기관에서 최고의 인재를 유치하는 능력으로 알려져 있다. 그는 또한 AI 하드웨어 및 인프라에 관한 컨퍼런스와 패널에 참여하며 더 넓은 AI 커뮤니티에 관여해 왔다.
인정 및 향후 전망
Groq에서의 Goyal의 작업은 기술 업계에서 그에게 인정을 안겨주었다. 그는 Forbes 및 TechCrunch와 같은 출판물에 소개되었으며, Groq는 다양한 매체에서 가장 혁신적인 AI 기업 중 하나로 선정되었다. 2024년 현재 Groq는 제품 제공과 고객 기반을 계속 확장하고 있으며, 클라우드 플랫폼을 확장하고 차세대 LPU를 개발할 계획이다.
앞으로 Goyal은 Groq를 AI 추론 솔루션의 선도적 제공업체로 자리매김하는 것을 목표로 하며, NVIDIA 및 Amazon Web Services 및 Google Cloud와 같은 클라우드 제공업체와 같은 기존 플레이어와 경쟁하고 있다. 그는 AI가 일상적인 애플리케이션에 더욱 통합됨에 따라 빠르고 효율적인 AI 추론에 대한 수요가 증가할 것이라고 믿으며, Groq가 이러한 변화의 최전선에 남도록 보장하는 데 전념하고 있다.
개인 생활
Ankush Goyal은 사적인 성격으로 알려져 있으며, 그의 개인 생활에 대한 공개 정보는 제한적이다. 그는 결혼했으며 자녀가 있고, 샌프란시스코 베이 에어리어에 거주하고 있다. 여가 시간에는 독서와 새로운 기술 탐구를 즐기며, STEM 교육 이니셔티브를 열렬히 지지한다.
같이 보기
참고 문헌
(이 기사에는 지침에 따라 외부 참고 문헌이 제공되지 않는다.)