バークレーRISEラボ(Real-time Intelligent Systems and Environments Lab)は、カリフォルニア大学バークレー校にある研究機関であり、リアルタイム人工知能のためのシステムとインフラストラクチャの開発に焦点を当てている。コンピュータ科学者のイオン・ストイカによって設立されたこのラボは、前身であるAMPLabとRISELabプロジェクトの業績を引き継ぎ、Apache SparkやApache Mesosといった基盤技術を生み出してきた。ラボの使命は、AIの最新の進歩と、それらを本番環境で展開するために必要なスケーラブルで低遅延なシステムとの間のギャップを埋めることである。
バークレーRISEラボは、バークレー人工知能研究コミュニティの傘下で運営されているが、システム、ネットワーキング、機械学習の交差点に焦点を当てた独自の研究アジェンダを維持している。その研究者たちは、分散トレーニング、モデルサービング、AIのためのデータ管理、そしてリアルタイムインテリジェントアプリケーションの構築と運用を容易にするツールの開発といった課題に取り組んでいる。このラボは、産業界や学界で広く採用されているオープンソースの貢献で知られている。
歴史的ルーツと進化
このラボは、2011年から2016年まで国立科学財団と産業パートナーからの資金提供を受けて運営されたAMPLabにその系譜をたどる。AMPLabは、統合分析エンジンであるApache Sparkと、クラスタマネージャであるApache Mesosを生み出した。2017年には、ラボはRISELab(Real-time Intelligent Secure and Explainable systems)と改名され、リアルタイムで安全かつ説明可能なAIシステムに焦点を当てた。現在のバークレーRISEラボは2021年に設立され、サービングと推論に重点を置いたリアルタイムインテリジェントシステムへと方向転換した。
研究分野
ラボの研究は、いくつかの主要な領域にまたがっている:
- モデルサービングと推論:Ray ServeやvLLMなどのシステムを開発し、大規模言語モデルや他の深層学習モデルの展開を高スループットかつ低レイテンシで最適化している。特にvLLMは、広く影響力を持つようになったメモリ管理技術であるPagedAttentionを導入した。
- 分散コンピューティング:Pythonと機械学習ワークロードをスケーリングするための統一プラットフォームであるRayフレームワークを推進し、分散トレーニング、強化学習、ハイパーパラメータチューニングのためのプリミティブを提供している。
- AIのためのデータ管理:機械学習モデルに供給するデータ集約型パイプラインを処理するために、TuneやModinなどのフィーチャーストア、データ前処理、ストリーミングのためのシステムを構築している。
- セキュリティとプライバシー:AIシステムにおける機密データを保護するために、セキュア集約、差分プライバシー、連合学習の技術を探求している。
- 新興ハードウェアのためのシステム:AMD GPUやIntel CPUなどの新しいアクセラレータ向けにソフトウェアスタックを最適化するため、ハードウェアベンダーと協力している。
主要なオープンソースプロジェクト
ラボは、まとまりのあるエコシステムを形成するいくつかの主要なオープンソースプロジェクトを維持している:
- Ray:ステートレスおよびステートフルな計算の両方をサポートする汎用分散実行フレームワーク。Rayは、OpenAIやAnthropicなどの企業によってトレーニングとサービングに使用されている。
- vLLM:2023年にリリースされた、LLMのための高スループットでメモリ効率の高いサービングエンジン。GPTやLlamaのバリアントなどのモデルを展開するための標準ツールとなっている。
- Ray Tune:スケーラブルなハイパーパラメータチューニングのためのPythonライブラリであり、PyTorchやTensorFlowと統合されている。
- Apache Spark:ラボによって積極的に開発されなくなったが、SparkはAMPLab時代の基盤的な成果として引き続き、Apacheソフトウェア財団によって維持されている。
コラボレーションと影響
バークレーRISEラボは、産業パートナーや他の研究機関と積極的に協力している。Amazon Web Services、Microsoft Azure、Google Cloudなどとのパートナーシップを持ち、そのシステムが本番環境に対応できるようにしている。また、スタンフォードのAIラボやMITのCSAILとも共同研究イニシアチブで緊密に協力している。その博士課程の学生やポスドクは、Anyscale(Rayの商用化)やDetermined AI(Hugging Faceに買収)などの成功したスタートアップを設立している。
ラボの仕事は、より広い生成AIエコシステムに影響を与えてきた。例えば、vLLMの最適化は商用推論プロバイダによってすぐに採用され、RayはAIアプリケーションにおける分散Pythonの事実上の標準となっている。ラボは定期的にワークショップを開催し、OSDI、NSDI、NeurIPSなどのトップ会議で研究成果を発表している。
リーダーシップと人材
UCバークレーのコンピュータ科学教授であるイオン・ストイカがラボのディレクターを務めている。彼はまた、AnyscaleとDatabricksの共同設立者でもある。主要な教員には、機械学習理論に取り組むマイケル・ジョーダンや、テンソル法と生成モデルの研究を率いるアニマ・アナンドクマーが含まれる。ラボには、国際的な訪問研究者のローテーショングループがあり、学部生研究者のための夏期インターンシッププログラムも開催している。
今後の方向性
ラボは、強化学習サービング、マルチエージェントシステム、適応型リソース管理に関する継続的な研究を通じて、リアルタイムAIシステムの限界を押し広げ続けている。2025年現在、その研究者たちはトランスフォーマーベースのモデルの推論コストを削減する方法と、分散トレーニングをハードウェア障害に対してより回復力のあるものにする方法を探求している。ラボはオープンサイエンスに引き続きコミットしており、すべてのコードとほとんどの研究論文をオンラインで自由に公開している。