2024년 4월, AI 칩 제조사 엔비디아는 GPU 클러스터를 관리하고 조율하는 소프트웨어를 개발하는 이스라엘 스타트업 Run:ai의 인수를 발표했다. 이 거래는 약 7억 달러로 평가되었으며, 규제 승인을 거쳐 2024년 하반기에 최종 완료되었다. 이번 인수는 엔비디아가 하드웨어를 넘어 대규모 언어 모델과 같은 AI 모델이 GPU 기반 인프라에서 훈련되고 배포되는 방식을 최적화하는 소프트웨어 계층까지 지배력을 확장하려는 노력을 강조했다.
Run:ai는 텔아비브 대학의 전 연구원인 Omri Geller와 Ronen Dar 박사가 2018년에 설립했다. 이 회사는 막대한 컴퓨팅 자원을 요구하는 Generative AI 워크로드를 실행하는 기업들 사이에서 빠르게 주목을 받았다. 핵심 플랫폼은 조직이 GPU를 풀링하고, 작업을 효율적으로 스케줄링하며, 자원을 동적으로 할당할 수 있게 하는 추상화 계층을 제공하여 모델 훈련 및 Inference (AI) 시대의 중요한 병목 현상을 해결했다. 인수 전에 Run:ai는 Insight Partners와 Tiger Global과 같은 투자자들의 지원을 받아 약 1억 1,800만 달러의 벤처 자금을 조달했다.
배경 및 사업 근거
지난 몇 년 동안 대규모 신경망 훈련의 컴퓨팅 수요는 폭발적으로 증가했다. GPT-4 및 OpenAI의 모델과 같은 시스템을 구동하는 트랜스포머 아키텍처의 부상은 GPU 활용률을 운영 효율성의 최전선에 놓았다. 많은 조직은 값비싼 GPU 자산이 비효율적인 작업 스케줄링이나 자원 단편화로 인해 유휴 상태로 방치되는 경우가 많아 제대로 활용되지 못한다는 것을 발견했다. 하드웨어를 공급하는 엔비디아는 이러한 문제점을 인식하고 고객을 유치하고 유지할 완전한 솔루션을 제공하고자 했다.
CUDA 프로그래밍 모델과 빠르게 성장하는 AI Enterprise 제품군을 포함한 엔비디아의 소프트웨어 사업은 의미 있는 수익원이 되었다. Run:ai를 인수함으로써 엔비디아는 Microsoft Azure, Amazon Web Services, Google Cloud, VMware 환경과 같은 여러 공급업체에 걸쳐 GPU를 통합할 수 있는 스케줄러를 통합하는 것을 목표로 했다. 이 움직임은 엔비디아를 단순한 칩 제조업체가 아닌 AI 컴퓨팅의 조율자로 자리매김하게 했다.
Run:ai의 제품 및 기술
Run:ai의 핵심 제품에는 GPU 파티션, 동적 가상 GPU 인스턴스를 처리하는 Kubernetes 기반의 견고성과 정책에 따라 작업 트리거를 지원하는 스케줄러가 포함된다. Deep learning에 일반적으로 사용되는 PyTorch 및 TensorFlow를 포함한 다양한 프레임워크를 지원하며 MLflow 및 Kubeflow와 같은 인기 도구와 통합된다. Batch Normalization 또는 기타 모델 최적화를 사용하는 다중 GPU 작업을 처리하는 기술은 해체되어야 했지만, 플랫폼은 GPU당 멀티플렉싱을 제공하여 많은 고객 배포에서 활용률을 일반적인 40%에서 80% 이상으로 높인다.
또한 Run:ai는 데이터 과학자와 엔지니어가 하드웨어를 실행 중인 워크로드에서 분리하고 컴퓨팅을 자동으로 확장할 수 있게 하는 "AI 제어 평면"이라는 기능을 도입했다. 이는 작업 제출 시간을 시간 단위에서 분 단위로 줄였고, 관리자에게 부서별 비용 및 사용량에 대한 가시성을 제공했다.
재무 세부 사항 및 평가
처음에는 거래 가치가 7억 달러라고 보도되었지만, 이후 몇 주 동안 여러 매체에서 그 수치가 10억 달러에 가깝다고 보도했다. 엔비디아는 정확한 수치에 대한 언급을 거부했지만, 미국 증권거래위원회 규제 서류에 따르면 최종 정산 가격은 현금과 주식을 포함한 7억 달러였다. 거래는 Run:ai 직원들이 미국 외 엔비디아의 가장 큰 연구 거점 중 하나인 이스라엘 개발 센터에 통합되는 방식으로 구조화되었으며, 거래 완료 시점에 수백 명의 Run:ai 직원이 합류했다.
이 거래는 특히 두 회사 모두 AI 스케줄러 시장에서 GPU를 보류할 지배적 위치를 차지하지 않았기 때문에 큰 조건 없이 승인되었다. 인수 전 Run:ai는 Nvidia 파트너 Etsy와 금융 기관을 포함한 약 100개의 엔터프라이즈 고객을 보유하고 있었다.
업계에 대한 전략적 의미
AI 인프라 계층에서 이번 인수는 통합 추세를 알렸다. 엔비디아의 경쟁사와 고객 모두 주목했다. AMD와 Intel은 AMD의 오픈소스 ROCm 스택과 같은 대응 제품을 도입했다. 이 움직임은 소프트웨어가 하드웨어만큼 중요한 AI 처리의 플랫폼 전쟁을 심화시켰다. 또한 Amazon Web Services와 같은 하이퍼스케일러가 AWS Trainium 및 Inference (AI) 칩과 같은 맞춤형 실리콘에 투자를 강화하여 제품을 차별화하도록 촉구했다.
이번 인수는 또한 사설 및 공용 클라우드에서 GPU 자원 추상화에 대한 논의를 촉진했다. 엔터프라이즈 IT 팀은 클라우드와 온프레미스 환경 간의 원활한 확장을 기대하며 이 움직임을 환영했으며, 엔비디아가 운영한다면 공급업체 종속을 줄일 수 있지만 그 가능성은 아직 지켜봐야 한다.
규제 및 경쟁 조사
유럽 규제 기관은 표준 반독점 규칙에 따라 합병을 검토했다. 2024년 12월, 유럽 위원회는 Run:ai의 오케스트레이션 시장 점유율이 제한적이라는 점을 언급하며 양보를 요구하지 않고 거래를 승인했다. 엔비디아는 하드웨어에서 계속 우위를 점했지만 소프트웨어 시장은 여전히 초기 단계였다. 마찬가지로 미국 연방거래위원회는 특히 이 합병에 이의를 제기하지 않기로 결정했지만, 기술 대기업들이 칩 및 AI 생태계 통제에 대한 광범위한 조사를 받고 있다.
IBM 및 Graphcore와 같은 경쟁사는 자체 스케줄러 역량을 강화하기 위한 움직임을 보였다. 예를 들어 Graphcore는 PopGrid를 도입했고, Intel의 oneAPI 컬렉티브는 개방형 생태계를 구축해 왔다.
통합 및 향후 경로
2024년 11월 거래를 마감한 후 엔비디아는 Run:ai의 기술을 NVIDIA AI Enterprise 및 NVIDIA Base Command와 같은 기존 도구에 통합하는 프로세스를 시작했다. 인수 후 첫 출시 중 하나는 vGPU 라이선스와 리소스 관리 기능을 통합한 "Run:AI on Nvidia AI Stack"이었다. 마감 후 첫 분기에 엔비디아는 Run:ai 플랫폼이 모든 DGX 고객에게 제공되어 최적의 리소스 스케줄링으로 워크로드를 실행할 수 있다고 밝혔다.
향후 엔비디아는 카네기멜론 유형의 연구 프레임워크를 자체적으로 실행하는 클러스터를 위해 GPU를 넘어 맞춤형 ASIC을 포함한 가속기를 지원하도록 플랫폼을 개방할 계획을 발표했다.
경쟁사의 대응
AMD는 2024년 말 자체 "인피니트 패브릭" 스케줄링 소프트웨어를 발표했다. SambaNova Systems는 자체 가상 GPU 제어 기능을 제공하도록 클라우드를 확장했으며, Groq는 여러 동적 스케줄러를 기본적으로 구현했다. AI 컴퓨팅 오케스트레이션을 둘러싼 전반적인 경쟁이 심화되면서 엔비디아는 제3자와 더 강력한 생태계를 구축해야 했다.
이번 인수는 엔비디아의 이스라엘 내 입지(2025년 기준 1,000명 이상의 직원)를 공고히 했을 뿐만 아니라, 2024년 이전에 Microsoft (AI)에 인수된 deepspeed와 같은 생태계 내 소프트웨어 계층 스타트업에 대한 여러 다른 투자를 촉발했다.
Run:ai 고객에 대한 영향
Run:ai의 고객은 처음에 엔비디아 클라우드 스택으로의 마이그레이션에 회의적이었다. 그러나 엔비디아는 장기적인 권리와 연속성 계획을 제공하여 파트너에게 기술 지원을 안심시켰다. 2025년 중반 현재 이 플랫폼은 huggingface 및 비즈니스 애플리케이션과 같은 대규모 AI 서비스를 제공하는 시설과 기업에서 여전히 널리 사용되고 있다.
전반적으로 엔비디아-Run:ai 인수는 GPU뿐만 아니라 AI 컴퓨팅의 잠재력을 최대한 활용하는 데 필요한 소프트웨어에서도 엔비디아의 중심적 위치를 더욱 공고히 하는 전략적 이정표이다.
같이 보기
- NVIDIA 기반 AI 칩
- cloud-computing
- k8s (Kubernetes)