Modal est une plateforme cloud serverless conçue pour les charges de travail liées à l'IA et à l'apprentissage automatique. Elle fournit une couche d'infrastructure qui permet aux développeurs d'exécuter du code dans le cloud sans gérer de serveurs, avec une mise à l'échelle automatique en fonction de la demande. La plateforme est optimisée pour des tâches telles que l'entraînement de modèles, le réglage fin, et l'inférence, et prend en charge des frameworks populaires comme PyTorch et TensorFlow
Fondée en 2021, Modal est issue du besoin croissant de calcul flexible et rentable pour les applications d'intelligence artificielle. L'entreprise a son siège à San Francisco, en Californie, et a attiré l'attention pour son approche conviviale pour les développeurs du cloud computing, qui abstrait la complexité de la gestion de clusters
Architecture et fonctionnalités
L'architecture de Modal est construite autour du concept de fonctions serverless, où les utilisateurs définissent leurs tâches de calcul comme des fonctions exécutées dans des conteneurs isolés. La plateforme gère l'allocation des ressources, la mise à l'échelle automatique, et l'équilibrage de charge, permettant aux utilisateurs d'exécuter des travaux allant de petits prototypes à des charges de travail distribuées à grande échelle. Les fonctionnalités clés incluent un SDK Python, la prise en charge d'instances GPU (y compris les GPU NVIDIA et AMD), et un planificateur de travaux intégré pour le traitement par lots. Modal offre également une couche de calcul distribué qui peut paralléliser des tâches sur plusieurs nœuds, ce qui la rend adaptée à l'entraînement de grands modèles de langage et d'autres modèles intensifs en calcul
Cas d'utilisation
Modal est utilisée dans divers domaines de l'IA. En apprentissage automatique, elle sert de plateforme pour le suivi d'expériences et le réglage d'hyperparamètres. Pour les praticiens du apprentissage profond, elle fournit un accès à la demande à des GPU hautes performances, réduisant le besoin de matériel dédié. La plateforme est également populaire pour le déploiement de modèles de IA générative, y compris les architectures basées sur les transformeurs, et pour l'exécution de pipelines de données qui alimentent l'entraînement de réseaux de neurones. Des entreprises dans des secteurs tels que la santé, la finance, et les véhicules autonomes ont adopté Modal pour son évolutivité et sa facilité d'intégration avec les flux de travail existants
Comparaison avec d'autres fournisseurs de cloud
Modal concurrence les fournisseurs de cloud traditionnels comme Amazon Web Services, Google Cloud, et Azure, mais se différencie en offrant une expérience plus spécialisée et centrée sur le développeur. Contrairement aux clouds polyvalents, le modèle serverless de Modal permet aux utilisateurs de payer uniquement pour le temps de calcul qu'ils consomment, évitant les frais généraux de gestion de machines virtuelles. Elle s'intègre également avec des outils et frameworks d'IA populaires, et fournit une API plus simple pour lancer des travaux. Cependant, elle peut ne pas offrir la même gamme de services que les clouds plus grands, et certains utilisateurs peuvent préférer le contrôle d'instances dédiées offert par des fournisseurs comme CoreWeave ou Cerebras.
Financement et croissance
Modal a levé des financements importants auprès de sociétés de capital-risque, y compris un tour de série A en 2022 et un tour de série B en 2023. L'entreprise a élargi sa base de clients parmi les startups et les grandes entreprises, et a agrandi son équipe pour soutenir la demande croissante d'infrastructure d'IA. En date de 2024, Modal continue d'itérer sur sa plateforme, ajoutant des fonctionnalités telles que une meilleure prise en charge de l'inférence de grands modèles de langage et l'intégration avec les API de OpenAI et Anthropic
Orientations futures
À l'avenir, Modal vise à simplifier davantage le déploiement de modèles d'IA en production, avec un accent sur la réduction de la latence et du coût. L'entreprise explore des partenariats avec des fournisseurs de matériel comme NVIDIA et AMD pour optimiser les performances, et investit dans des outils de surveillance et d'observabilité de modèles. À mesure que l'industrie de l'IA évolue, Modal est positionnée pour jouer un rôle clé dans la couche d'infrastructure qui soutient l'innovation en apprentissage automatique.