버클리 RISE 연구소(Real-time Intelligent Systems and Environments Lab)는 캘리포니아 대학교 버클리에 있는 연구 실험실로, 실시간 인공지능을 위한 시스템과 인프라 개발에 중점을 둔다. 컴퓨터 과학자 이온 스토이카가 설립했으며, 이 연구소는 Apache Spark와 Apache Mesos와 같은 기초 기술을 만든 전신인 AMPLab과 RISELab 프로젝트의 작업을 이어받았다. 연구소의 사명은 AI의 최신 발전과 이를 프로덕션 환경에 배포하는 데 필요한 확장 가능하고 지연 시간이 짧은 시스템 사이의 격차를 해소하는 것이다.
버클리 RISE 연구소는 버클리 인공지능 연구 커뮤니티의 산하에서 운영되지만, 시스템, 네트워킹, 머신러닝의 교차점에 초점을 맞춘 독자적인 연구 의제를 유지한다. 연구진은 분산 훈련, 모델 서빙, AI를 위한 데이터 관리, 실시간 지능형 애플리케이션을 더 쉽게 구축하고 운영할 수 있게 해주는 도구 개발과 같은 과제에 집중한다. 이 연구소는 산업계와 학계에서 널리 채택된 오픈소스 기여로 잘 알려져 있다.
역사적 배경과 진화
이 연구소는 2011년부터 2016년까지 미국 국립과학재단과 산업 파트너의 자금 지원으로 운영된 AMPLab에서 그 계보를 이어받는다. AMPLab은 통합 분석 엔진인 Apache Spark와 클러스터 관리자인 Apache Mesos를 탄생시켰다. 2017년에 연구소는 실시간, 보안, 설명 가능한 AI 시스템에 초점을 맞춘 RISELab(Real-time Intelligent Secure and Explainable systems)으로 이름이 바뀌었다. 현재의 버클리 RISE 연구소는 2021년에 설립되어 서빙과 추론에 중점을 둔 실시간 지능형 시스템으로 방향을 전환했다.
연구 분야
연구소의 연구는 몇 가지 핵심 영역에 걸쳐 있다:
- 모델 서빙 및 추론: Ray Serve와 vLLM과 같은 시스템을 개발하여 대규모 언어 모델 및 기타 딥러닝 모델을 높은 처리량과 낮은 지연 시간으로 배포하는 것을 최적화한다. 특히 vLLM은 널리 영향력 있는 메모리 관리 기법인 PagedAttention을 도입했다.
- 분산 컴퓨팅: Python 및 머신러닝 워크로드 확장을 위한 통합 플랫폼인 Ray 프레임워크를 발전시키며, 분산 훈련, 강화 학습, 하이퍼파라미터 튜닝을 위한 기본 요소를 제공한다.
- AI를 위한 데이터 관리: 머신러닝 모델에 공급되는 데이터 집약적 파이프라인을 처리하기 위해 Tune 및 Modin과 같은 피처 스토어, 데이터 전처리, 스트리밍 시스템을 구축한다.
- 보안 및 개인정보 보호: AI 시스템의 민감한 데이터를 보호하기 위해 안전한 집계, 차등 개인정보 보호, 연합 학습 기법을 탐구한다.
- 신흥 하드웨어를 위한 시스템: AMD GPU 및 Intel CPU와 같은 새로운 가속기를 위한 소프트웨어 스택을 최적화하기 위해 하드웨어 공급업체와 협력한다.
주요 오픈소스 프로젝트
연구소는 응집력 있는 생태계를 형성하는 여러 주요 오픈소스 프로젝트를 유지 관리한다:
- Ray: 상태 비저장 및 상태 저장 계산을 모두 지원하는 범용 분산 실행 프레임워크. Ray는 OpenAI 및 Anthropic과 같은 기업에서 훈련 및 서빙에 사용한다.
- vLLM: 2023년에 출시된 고처리량, 메모리 효율적인 LLM 서빙 엔진. GPT 및 Llama 변형 모델 배포의 표준 도구가 되었다.
- Ray Tune: PyTorch 및 TensorFlow와 통합되는 확장 가능한 하이퍼파라미터 튜닝용 Python 라이브러리.
- Apache Spark: 더 이상 연구소에서 적극적으로 개발되지는 않지만, Spark는 AMPLab 시대의 기초 산출물로 계속 남아 있으며 Apache Software Foundation이 유지 관리한다.
협력 및 영향
버클리 RISE 연구소는 산업 파트너 및 다른 연구 기관과 적극적으로 협력한다. 아마존 웹 서비스, Microsoft Azure, Google Cloud와 같은 기업과 파트너십을 맺어 시스템이 프로덕션 준비 상태를 갖추도록 한다. 연구소는 또한 스탠퍼드 AI 연구소 및 MIT CSAIL과 공동 연구 이니셔티브를 긴밀히 진행한다. 박사 과정 학생과 박사후 연구원들은 Anyscale(Ray 상용화) 및 Determined AI(Hugging Face에 인수됨)와 같은 성공적인 스타트업을 설립했다.
연구소의 작업은 더 넓은 생성형 AI 생태계에 영향을 미쳤다. 예를 들어, vLLM의 최적화는 상용 추론 제공업체에 빠르게 채택되었고, Ray는 AI 애플리케이션에서 분산 Python의 사실상 표준이 되었다. 연구소는 정기적으로 워크숍을 개최하고 OSDI, NSDI, NeurIPS와 같은 최고 학회에서 연구를 발표한다.
리더십 및 구성원
UC 버클리의 컴퓨터 과학 교수인 이온 스토이카가 연구소 소장을 맡고 있다. 그는 또한 Anyscale과 Databricks의 공동 창립자이기도 하다. 주요 교수진으로는 머신러닝 이론을 연구하는 마이클 조던, 텐서 방법과 생성 모델 연구를 이끄는 아니마 아난드쿠마르가 있다. 연구소에는 순환하는 국제 방문 학자 그룹이 있으며 학부 연구자를 위한 여름 인턴십 프로그램을 운영한다.
향후 방향
연구소는 강화 학습 서빙, 다중 에이전트 시스템, 적응형 리소스 관리에 대한 지속적인 연구를 통해 실시간 AI 시스템의 경계를 계속 넓히고 있다. 2025년 현재 연구진은 트랜스포머 기반 모델의 추론 비용을 줄이고 분산 훈련을 하드웨어 오류에 더 탄력적으로 만드는 방법을 탐구하고 있다. 연구소는 모든 코드와 대부분의 연구 논문을 온라인에 무료로 공개하는 개방형 과학에 계속 전념하고 있다.