Modal Labsは、人工知能および機械学習ワークロードを実行するためのサーバーレスプラットフォームを提供するクラウドコンピューティング企業です。2022年にErik BernhardssonとAkshay Sharmaによって設立された同社は、GPUおよびCPUリソースへのオンデマンドアクセスを提供し、開発者が基盤インフラを管理することなくAIアプリケーションを展開・スケーリングできるようにします。このプラットフォームは、データ処理やモデルトレーニングから推論やバッチジョブまで、幅広いタスクをシンプルさとコスト効率に重点を置いてサポートするように設計されています。
Modalのサーバーレスモデルはクラスタ管理を抽象化し、ユーザーが自動スケーリングと従量課金制でクラウド上でコードを実行できるようにします。このプラットフォームは、Machine learningエコシステムの一般的なツールやフレームワーク（PyTorchやTensorFlowなど）と統合し、Deep learningワークフローをサポートします。Amazon Web ServicesやGoogle Cloudなどのクラウドプロバイダーを活用することで、ModalはNVIDIA GPUを含む柔軟なコンピュートオプションを提供し、多様なパフォーマンスと予算要件に対応します。
歴史と設立
Modal Labsは2022年にErik BernhardssonとAkshay Sharmaによって設立されました。Bernhardssonは以前BetterのCTOを務め、大規模データシステムの構築経験を持ち、SharmaはOpenAIやFigure AIでの勤務経験から専門知識をもたらしました。同社は、既存のクラウドインフラが個々の開発者や小規模チームにとってAIワークロードを効率的に実行するには複雑で高コストすぎるという認識から生まれました。Modalは、運用上のオーバーヘッドを抽象化するサーバーレスプラットフォームを提供することで、高性能コンピューティングへのアクセスを民主化することを目指しました。
同社はAIコミュニティで急速に注目を集め、著名なベンチャーキャピタル企業からの投資を引き付けました。2023年、ModalはLux Capitalが主導するシリーズAラウンドで1600万ドルを調達し、Amplify Partnersや他の投資家が参加しました。この資金はエンジニアリングチームの拡大と、Large language modelのトレーニングおよび推論のサポートを含むプラットフォーム機能の強化に使用されました。
プラットフォームと機能
Modalの中心的な提供物は、ユーザーが最小限の設定でPythonコードをクラウド上で実行できるサーバーレスコンピュートプラットフォームです。開発者は関数やワークフローを定義し、トラフィックに基づいて自動スケーリングされ、オンデマンドで実行されます。このプラットフォームは同期および非同期の両方の実行をサポートし、リアルタイム推論とバッチ処理に適しています。
主な機能は以下の通りです：
- GPUおよびCPUサポート：ModalはNVIDIA A100やH100 GPUを含むさまざまなインスタンスタイプへのアクセスを提供し、軽量ワークロード向けのCPUのみのオプションも用意しています。
- 分散コンピューティング：ユーザーは複数のマシンにまたがってタスクを並列化でき、Neural networkモデルの効率的なトレーニングや大規模データ処理を可能にします。
- シームレスな統合：ModalはHugging FaceやWeights & Biasesなどの一般的なデータおよびAIツールと統合し、カスタムDockerイメージをサポートします。
- コスト管理：従量課金モデルにより、未使用時にゼロにスケーリングすることでコストを最適化でき、アイドルリソースの料金を排除します。
ユースケースとアプリケーション
このプラットフォームは、スタートアップから確立された企業まで、さまざまな組織で以下のようなタスクに使用されています：
- モデルトレーニング：分散コンピューティング機能を使用したDeep learningトレーニングジョブ（Transformer (architecture)ベースのモデルを含む）の実行。
- 推論サービス：Large language modelや他のAIモデルを低レイテンシのスケーラブルなAPIとして展開。
- データ処理：PythonとPandasやNumPyなどの一般的なライブラリを使用したETLパイプラインとデータ変換の実行。
- 研究と実験：インフラ設定なしで研究者がMachine learningアルゴリズムを迅速にプロトタイプ化およびテストできるようにします。
注目すべきユーザーには、Generative AI分野の企業（AI21 LabsやInflection AIなど）が含まれ、モデルのトレーニングとサービス提供にModalを活用しています。このプラットフォームはまた、Artificial intelligence研究のために学術機関や研究ラボでも採用されています。
競争環境
ModalはAIクラウドコンピューティングの競争の激しい分野で活動しており、CoreWeave、Cerebras、Groqなどのライバルと競合しています。これらのプロバイダーは専用クラスタや特定のハードウェアに焦点を当てることが多いのに対し、Modalはサーバーレスモデルと開発者に優しいインターフェースで差別化を図っています。このアプローチは、生のパフォーマンスよりも使いやすさと柔軟性を優先する個々の開発者や小規模チームに魅力的です。
Modalはまた、GPUインスタンスやマネージドサービスを提供するAmazon Web Services、Microsoft Azure、Google Cloudなどの従来のクラウドプロバイダーとも競合します。しかし、Modalのサーバーレス抽象化と細かい価格設定は、特にクラウドインフラ管理の複雑さを避けたい人々にとって、AI開発へのよりアクセスしやすい入り口を提供します。
今後の方向性
2024年現在、Modalはプラットフォームを拡大し続けており、新しいハードウェアのサポートを追加し、Large language modelワークロードのパフォーマンスを向上させています。同社はAMDやIntelなどのハードウェアベンダーとのパートナーシップを模索し、より幅広いコンピュートオプションを提供することを目指しています。Modalはまた、分散トレーニング機能を強化し、ユーザーが最小限のコード変更でモデルを大規模にトレーニングできるようにすることを目指しています。
Generative AIアプリケーションへの需要が高まる中、ModalはAI開発者にとって重要なインフラ層として機能する好位置にあります。同社のサーバーレスのシンプルさとコスト効率への焦点は、よりアクセスしやすくスケーラブルなAIコンピューティングへの業界トレンドと一致しています。