Anyscaleは、人工知能および機械学習ワークロード向けの分散コンピューティングに特化した組織である。同社は、オープンソースの分散コンピューティングフレームワークであるRayの主要な開発者かつ管理者であり、これにより開発者はPythonアプリケーションを単一のマシンから大規模なコンピュータクラスタへとスケールさせることができる。Anyscaleはまた、Ray上に構築された商用のマネージドプラットフォームも提供しており、クラウド上での分散AIアプリケーションのデプロイ、実行、管理のためのツールを提供している。
この企業は、現代のAIシステム、特に相当な計算リソースを必要とする機械学習やDeep learningモデルを含むシステムをスケールさせる際の複雑化する課題に対処するために設立された。分散実行のための統合されたフレームワークを提供することで、AnyscaleはAIワークロードを研究プロトタイプから本番デプロイメントへ移行するプロセスを簡素化することを目指している。
起源と設立
Anyscaleは2019年に設立され、カリフォルニア大学バークレー校のベルクレイAIリサーチ（BAIR）研究所から生まれた。創設メンバーにはロバート・ニシハラ、フィリップ・モーリッツ、イオン・ストイカが含まれており、彼らは以前、大学のRISELab内で研究プロジェクトとしてRayを開発していた。このプロジェクトは、AIと機械学習アプリケーションの進化するニーズに適用した場合の既存の分散コンピューティングシステムの限界に対処するために設計された。この企業は、Rayを本番環境対応のシステムに発展させ、より幅広いユーザーベースによる採用を支援するために大学からスピンアウトした。
Rayフレームワーク
Rayは、オープンソースのPythonフレームワークであり、分散アプリケーションを構築するための簡易で普遍的なAPIを提供する。その中核として、Rayは並列および分散コンピューティングのためのプリミティブ、すなわちリモート関数、アクター、分散データ構造を提供する。これは、「Reinforcement learning」やハイパーパラメータチューニングから、Large language modelといった高度な言語モデルやその他のGenerative AIアプリケーションのサービス提供まで、様々なワークロードを処理するように設計されている。このフレームワークはArtificial intelligence研究と本番環境の両方をサポートする。
Rayの主要な要素はRay Coreであり、低レベルのタスクスケジューリングと分散メモリ管理を処理する。Ray Coreの上には、ハイパーパラメータチューニングのためのRay Tune、モデルサービングのためのRay Serve、分散データ処理のためのRay Dataといったより高レベルのライブラリがあります。これらのライブラリは、柔軟でPythonユーザーに適したインターフェースで複雑なAIパイプラインを構築することを可能にする。このフレームワークは水平方向のスケーラビリティを強調しており、ワークロードが単一のラップトップからクラウド内のノード数千への実行を可能にする。
Anyscaleプラットフォーム
Anyscaleプラットフォームは、Rayフレームワークを運用化する管理サービスである。これは、Amazon Web Services、Microsoft Azure、Google Cloudといったパブリッククラウドプロバイダー上でRayクラスタをデプロイし管理するためのプラットフォームを提供する。プラットフォームには、オートスケーリング、オブザーバビリティ、マルチテナンシーといった機能が含まれており、組織がRayアプリケーションを本番環境で確実に実行できるようにする。多くの場合、特に動的な計算リソースを基盤インフラを手動で管理せずに割り当てる必要があるチームでのモ し度、モデルのトレーニングとサービングに使用される。
このプラットフォームは個人開発者とエンタープライズの両方を対象としている。小規模なチームにとっては、既存のPythonコードをスケールさせる簡単な経路が提供される。より大規模な組織では、コラボレーション、リソース共有、ガバナンスのためのツールが提供され、既存のAIおよびMLワークフローに統合される。同社は、このプラットフォームを``大規模なAI''ワークロード、特にDeep learningやNeural networkを含むワークロード向けの解決策として位置づけている。
業界とコミュニティへの影響
Anyscaleは、AIコミュニティにおける分散PythonコンピューティングのデファクトスタンダードとしてRayを育成する中心的な役割を果たしてきた。このフレームワークは、複数のAI研究機関やGoogle DeepMindといった企業研究所を含む広範な企業や研究機関に採用されている。そのオープンソースの性質により、データサイエンスから自然言語処理に至るまで様々な領域にRayの機能を拡張するライブラリやツールを備えた面積のエコシステムが育ん出されてきた。
競争の環境では、Anyscaleはクラウド特有のAIサービスや他の分散フレームワークとしばしば比較される。しかし、単一で相互的なPythonベースのフレームワークに焦点を合わせていることが、代替案と区別される。同社は、カンファレンス、技術ブログ、学術研究への貢献を通じて広範なAIコミュニティとも関わっており、その影響力をさらに固定させている。
ガバナンスと資金調達
Anyscaleは、カリフォルニア州サンフランシスコに本社を置く閉鎖的な企業である。これは、a16.dev、Redpoint Ventures、Lux Capitalを含む投資家からベンチャー資金を多方面で調達している。2024年現在、同社はAIインフラストラクチャの成長市場に対する投資家の信頼を反映し、10億ドル以上の価値を持っている。学術コンピュータ科学に深いルーツを持つ共同創設者を含むリーダードチップは、会社の技術・戦略的な方向を継続的に導いている。
参照
- Machine learning
- Deep learning
- distributed-computing
- berkeley ai cuts