기리시 나드카르니는 인도계 미국인 기술 경영자이자, 인공지능 인프라를 전문으로 하는 클라우드 플랫폼인 투게더 AI(Together AI)의 공동 창업자이자 최고경영자이다. 그의 지도 아래 투게더 AI는 대규모 언어 모델을 훈련하고 실행하기 위한 GPU 기반 클라우드 서비스의 주요 제공업체가 되었으며, 유연하고 비용 효율적인 고성능 AI 컴퓨팅 접근을 제공함으로써 기존 클라우드 제공업체와 경쟁하고 있다. 나드카르니의 작업은 인공지능, 머신러닝, 그리고 클라우드 인프라의 교차점에 있으며, 현재의 생성형 AI 채택 물결에서 주목할 만한 인물로 자리 잡았다.
투게더 AI를 설립하기 전, 나드카르니는 아마존 웹 서비스(아마존 웹 서비스)에서 10년 이상을 보냈다. AWS 엔지니어링 팀의 초기 멤버로서 그는 현대 클라우드 컴퓨팅의 첫 물결을 뒷받침한 핵심 서비스에 기여했다. 이후 그는 AWS AI 및 머신러닝 엔지니어링 책임자를 역임했으며, 훈련과 추론의 비용과 성능을 최적화하도록 설계된 아마존의 맞춤형 AI 칩인 AWS 트레이니엄의 엔지니어링 조직도 이끌었다. 엔터프라이즈 규모의 인프라를 구축한 그의 경험은 AI를 더 접근 가능하고 경제적으로 만드는 그의 접근 방식에 깊은 영향을 미쳤다.
나드카르니는 2022년 전 AWS 동료들과 AI 연구자들을 포함한 팀과 함께 투게더 AI를 공동 창업했다. 이 회사는 대규모 언어 모델의 오픈소스 공개에 전념하는 연구 비영리 단체로 시작하여 모델 훈련 및 추론을 위한 클라우드 서비스를 제공하는 단계로 발전했다. 나드카르니의 경영 방향 아래 상업적 벤처가 되었지만, 오픈소스 AI에 대한 강한 헌신을 유지하며 Llama, Mistral 및 다양한 파인튜닝 변형 모델을 API를 통해 접근할 수 있는 널리 사용되는 공개 플랫폼을 호스팅하고 있다.
회사 비전 및 AI 인프라
나드카르니는 AI의 미래가 오픈소스와 폐쇄형 모델을 모두 지원하는 유연한 인프라에 달려 있다는 생각의 열렬한 지지자이다. 그는 엔터프라이즈 AI 채택의 주요 장애물이 알고리즘적인 문제뿐만 아니라 기술적인 문제, 즉 높은 비용, 엔비디아 H100과 같은 주요 GPU의 공급망 제약, 그리고 분산 훈련의 복잡성이라고 주장한다. 투게더 AI의 주력 제품은 베어메탈 클러스터와 기본 하드웨어(현재 엔비디아의 최신 모델과 함께 AMD GPU 포함)를 추상화하는 모델 서빙 API를 갖춘 통합 플랫폼을 제공함으로써 이 문제를 해결한다. 나드카르니는 종종 자신의 회사를 AI 서비스도 제공하는 하이퍼스케일러 클라우드(애저, 구글 클라우드, AWS 트레이니엄)에 대한 대안으로 설명하며, 엔터프라이즈 워크로드의 성능에 대한 집중과 투명한 시간당 가격 책정으로 차별화한다.
AI 생태계에서의 전략적 역할
나드카르니의 영향력은 회사 운영을 넘어선다. 그는 생성 모델의 책임 있는 확장에 대해 논의하는 포럼에 참여하며 여러 주요 AI 안전 및 거버넌스 대화에 관여해 왔다. 그의 공개 논평은 종종 프론티어 AI에서 효율성과 혁신의 균형을 맞추는 방법, 특히 과도한 전력 소비나 하드웨어 노후화 없이 대규모 분산 훈련을 실행할 수 있는 지속 가능한 환경의 필요성을 다룬다. 그는 또한 스탠퍼드 대학의 AI+ 및 올인 서밋(All-In Summit)과 같은 주요 산업 행사와 컨퍼런스에서 연설하며 대규모 AI 배포의 실질적인 제약에 대한 통찰력을 공유한다.
그의 지휘 아래 투게더 AI는 2024년 초 2억 달러 규모의 시리즈 B 자금 조달을 포함하여 상당한 자금을 확보했으며, 이는 AI 인프라 분야에서 가장 큰 민간 투자 중 하나로 기록되었다. 나드카르니는 TechCrunch Disrupt 2024 및 Fortune과 LinkedIn의 AI 50 목록과 같은 여러 산업 영향력 목록에 이름을 올렸다. 그의 관점은 AI 산업 동향에 대한 논평을 위해 미디어에서 자주 요청받는다.
개인 배경 및 공개적 대표성
그의 초기 경력 중 많은 부분이 공개되지 않았지만, 나드카르니의 공개적 프로필은 현재 역할에 집중되어 있다. 그는 자신의 분야에서 저명한 기관의 학위를 보유하고 있으며, AWS에서 창업자로의 경력 궤적은 여러 주목할 만한 AI 인프라 구축자들의 경로를 반영한다. 그는 X(이전 트위터)와 같은 소셜 미디어 플랫폼에서 활발히 활동하며 대규모 언어 모델 기반 추론의 실질적인 과제에 대한 생각을 공유하고, 종종 잔차 네트워크 및 멀티 헤드 어텐션 개발자를 언급한다. 그는 학술 해커톤과 개발자 이벤트에 자주 등장하며 자신을 빌더 중의 빌더로 자리매김하고, 효율적인 AI의 발전을 위해 연구 커뮤니티와 교류한다.
오픈AI나 앤트로픽과 같은 프론티어 연구소의 지도자들과 대조적으로, 나드카르니의 공개적 역할은 연구자가 아닌 인프라 지원자이다. 그는 네트워킹, 스케줄링, 그리고 고밀도 컴퓨팅을 가능하게 하는 커널 수준 튜닝과 같은 결정론적 엔지니어링 측면을 강조한다. 그의 부상은 AI가 기초 연구의 우세에서 애플리케이션으로 전환하는 더 넓고 시의적절한 변화와 일치하며, 그는 이 변화에 실질적으로 기여하고 있다.
유산 및 영향력
2025년 초 현재, 나드카르니는 현대 AI 인프라 경쟁의 빈번한 해설자이다. 그의 회사는 특수 프로세서와 실시간 추론에 중점을 둔 그록 및 삼바노바와 같은 경쟁자들과 함께 AI의 "컴퓨팅 계층"에서 가치 있는 플레이어로 자주 언급된다. 나드카르니의 공개 발언은 막대한 컴퓨팅 수요를 활용하는 것을 독점이 아닌 민주화의 기회로 본다는 그의 관점을 시사한다. AWS 칩 설계에서의 그의 배경과 현재의 빠른 속도의 스타트업은 지난 10년의 기업 기술 거대 기업들과 새로운 AI 네이티브 인프라의 부상을 연결하는 서사를 만들어 낸다.
더욱이, 나드카르니는 점점 더 AI 엘리트들 사이의 연결자 역할을 하고 있다. 그는 예술 및 공학 학계와의 협력을 포함하며 버클리 AI 연구 방문 연구원 마크 타롬과의 지분을 보유하고 있다. 이 분야에서의 그의 성과는 민간 및 공공 부문 간의 협력을 촉진하며, 그의 가교 역할로서의 포지셔닝은 그의 회사의 미래만큼이나 중요해질 가능성이 높다. 다음 세대의 AI 인프라는 새로운 기술의 혹독함을 견딜 수 있는 깊은 경험을 가진 이들에 의해 구축될 것이며, 그는 그 집단에서 저명한 목소리이다.