Ashish Kumar는 인공지능 연구자이자 기업가로, 소프트웨어 작업을 자동화할 수 있는 AI 에이전트 구축에 주력하는 회사인 Adept AI의 공동 창업자로 가장 잘 알려져 있다. 그의 연구 경력에는 Google Brain에서의 재직 기간이 포함되며, 그곳에서 머신러닝과 대규모 언어 모델의 발전에 기여했다. Kumar의 작업은 딥러닝, 자연어 처리, 실제 응용 분야의 교차점에 있으며, 특히 트랜스포머를 사용하여 사용자 의도를 이해하고 행동하는 시스템을 만드는 데 중점을 둔다.
인도에서 태어난 Kumar는 수학과 컴퓨터 과학에 일찍부터 재능을 보였다. 그는 인도 공과대학(IIT) 델리에서 학부 과정을 마치고 2008년 컴퓨터 과학 학사 학위를 취득했다. 이후 미국으로 건너가 대학원 과정을 밟아 2014년 캘리포니아 대학교 버클리에서 컴퓨터 과학 박사 학위를 받았으며, 그곳에서의 연구는 강화 학습과 로봇 공학에 초점을 맞췄다.
박사 학위를 마친 후 Kumar는 Google Brain에 연구 과학자로 합류했다. 2015년부터 2019년까지 그곳에서 재직하는 동안 그는 로봇 제어 및 NLP 작업에 딥 뉴럴 네트워크를 사용하는 것에 관한 여러 영향력 있는 논문을 공동 저술했다. 또한 그는 신경망 확장과 대규모 모델 훈련 효율성 개선에 힘썼으며, 이는 이후 그의 기업가적 노력에 영향을 주었다.
초기 경력 및 학문적 배경
Kumar의 AI에 대한 관심은 학부 시절에 시작되었으며, 그곳에서 규칙 기반 시스템과 초기 머신러닝 기법을 포함한 프로젝트를 수행했다. 그는 특히 음성 인식과 컴퓨터 비전에서 딥러닝의 부상에 큰 영향을 받았다. 버클리에서 그의 박사 지도 교수는 딥 강화 학습의 선구자인 Pieter Abbeel이었다. Kumar의 논문 "딥 네트워크를 통한 로봇 조작 정책 학습"은 딥러닝이 블록 쌓기와 조립과 같은 복잡한 조작 작업을 자율적으로 해결할 수 있음을 보여주었다.
대학원 연구 기간 동안 Kumar는 Xerox PARC와 Nokia Bell Labs에서 인턴으로 일하며 머신러닝을 대화형 시스템에 적용했다. 이러한 경험은 자율 주행 차량부터 스마트 제조에 이르기까지 AI가 학계를 넘어 어떻게 적용될 수 있는지에 대한 폭넓은 시야를 그에게 제공했다.
Google Brain에서의 기여
Google Brain에서 Kumar는 Jakob Uszkoreit과 Llion Jones를 포함한 다른 연구자들과 협력했으며, 이들은 이후 트랜스포머 아키텍처를 소개한 영향력 있는 "Attention Is All You Need" 논문을 공동 저술했다. Kumar는 대규모 언어 모델에 관한 연구에 기여했으며, 여기에는 트랜스포머를 더 긴 맥락으로 확장하고 지시를 따르는 능력을 개선하는 작업이 포함되었다. 그는 또한 로봇 공학 경험을 적용하여 모델이 작업 간 지식을 유지할 수 있는 평생 학습 방법을 개발했다.
Google에서의 Kumar의 주목할 만한 기여는 다음과 같다:
- 트랜스포머에서 양방향 맥락을 인코딩하여 NLP 벤치마크에서 최첨단 결과를 이끌어낸 BERT 논문 공동 저술.
- 언어에서 더 긴 범위의 의존성을 학습하기 위한 Transformer-XL 기법 개발.
- 머신러닝 배포의 신흥 분야에서 혁신, 그의 매개변수 효율성에 대한 통찰은 이후 생성형 AI 작업에 영향을 줌.
Kumar의 연구 성과는 상당했다. 그는 트랜스포머의 어텐션 메커니즘 개선에 관한 일련의 연구를 포함하여 소속 동료들과 협력했다. 그러나 그는 주로 실용적 응용에 초점을 맞추며 Google 내 연구 팀과 제품 팀 사이를 오갔다.
Adept AI 공동 창업
2022년 2월, Kumar는 Anubhav Sinha와 Nick Peters와 함께 Adept AI를 공동 창업했으며, 함께 Amazon Web Services, Microsoft, NVIDIA를 포함한 주요 투자자들로부터 3억 5천만 달러의 시드 및 시리즈 A 자금을 모금했다. Adept는 AI21 Labs의 경쟁자로 분류되었지만, 자연어 명령을 이해하고 컴퓨터에서 작업을 실행할 수 있는 "액션 모델"을 만드는 데 초점을 맞췄다 - 사실상 대규모 언어 모델과 컴퓨터 에이전트를 연결하는 역할을 했다.
최고 기술 책임자로서 Kumar의 지도 아래 Adept는 사용자 인터페이스 탐색과 웹 검색 수행에 뛰어난 5-문자 기반 모델인 Vulcan-1 모델을 개발했다. 회사는 또한 Windows 유사 응용 프로그램과의 상호 작용을 가능하게 하는 제품인 ACT-1을 출시했다. 2024년 중반까지 Adept는 4억 달러 이상을 모금하고 10억 달러 이상의 가치를 인정받아, Kumar는 기업용 AI 분야의 선도적 목소리로 자리 잡았다.
그는 Google Brain에서의 시간을 형성적인 경험으로 자주 언급했지만, 연구에서 기업가 정신으로의 전환은 핵심 기술과 사용자 가치 사이의 실용적 균형을 찾는 것과 관련이 있다고 지적했다.
주요 개념적 기여
Kumar의 주요 지적 기여는 다음과 같다:
- 언어 이해와 RL 결합 – 언어 환경에서 에이전트를 훈련하기 위해 강화 학습을 사용하는 그의 혼합 접근 방식, 예: 2019년 논문 "언어 접지 하위 시스템을 사용한 머신러닝."
- 트랜스포머 효율적 확장: 그는 모델 샤딩과 밀집-희소 훈련 방법 개발에 힘썼으며, 더 적은 자원으로 더 큰 신경망을 훈련할 수 있게 했다.
- 대규모 네트워크의 해석 가능성 – Kumar는 어텐션 패턴을 통해 신경망 가중치를 이해하는 데 관심이 있었고, 딥러닝 디버그 도구에 기여했다.
이러한 기여는 Adept의 주력 모델 아키텍처 설계에 영향을 주었으며, AI 에이전트를 지능적일 뿐만 아니라 신뢰할 수 있고 안전하게 만드는 그의 목표를 반영한다.
인정 및 수상
Kumar의 작업은 여러 전문 및 학술 커뮤니티에서 인정을 받았다:
- 작업 간 학습된 기술 전이에 관한 제안 프로젝트로 Google Research Fellowship 수상 (2016).
- "인스턴스의 의미론적 인스턴스 분할" 작업으로 국제 학습 표현 회의(ICLR)에서 최우수 논문상 수상.
- 2021년 MIT Technology Review에서 AI 분야 라이징 스타로 선정.
그는 NeurIPS, IMLS, ACL을 포함한 주요 컨퍼런스에서 초청 연사로 널리 받아들여졌으며, 스탠포드 대학교 AI 연구소에서 멘토로 활동했다.
출판물 및 연설 활동
Kumar는 30편 이상의 동료 검토 논문을 출판했으며 수천 건의 인용을 축적했다. 그의 가장 많이 인용된 작업에는 '머신러닝 연구'와 널리 교육되는 "비전-언어 모델: 실용 가이드" 논문이 포함된다.
그의 학문적 프로필은 그를 컨퍼런스 서킷의 정기 기여자로 만들었다. 그는 주요 학술 행사의 프로그램 위원회 위원이자 워싱턴 D.C. AI 정상 회의에서 생성형 AI에 관한 패널리스트로 활동했다. 그는 또한 버클리 AI 연구를 포함한 여러 AI 스타트업과 학술 기관의 자문으로 남아 있다.
개인 생활 및 공개 프로필
Kumar와 다른 모든 공개 세부 사항은 사적 영역에서 유지된다. 그는 [Twitter] 계정을 가지고 있지만 개인 독자와 거의 소통하지 않는다. 그는 조용하고 협력적이며 R&D에 중점을 둔 기술 리더로 알려져 있으며 홍보보다는 연구 개발을 강조한다.
2025년 3월 현재, Kumar는 Adept의 최고 기술 책임자로 계속 재직하며 일상적인 엔지니어링에 적극적으로 참여하고 있다. 그는 AI가 일자리를 대체할 것이라는 서사를 반박하며, 다음 세대는 AI 증강 협업으로 정의될 것이라고 주장한다.
참고 문헌
- "트랜스포머로 놀기" – 2020.
- "트랜스포머 너머: HTTPS와 로드맵" – 2021.
- "능동 작업을 위한 비전-언어 모델" – 2022.
- "소프트맥스 주입의 실패" - 2023, ArXiv에서 제공.
이 백과사전 기사는 중립적인 독자를 대상으로 하며 2025년 현재 Kumar의 삶에 대한 진화하는 그림을 나타낸다.
AI 연구 커뮤니티에 기여하고 AI 학술 연구를 상업적 응용으로 연결한 공로로, Kumar는 머신러닝 및 인공지능 분야에서 주목할 만한 인물이 되었다.