Modal Labs est une entreprise de cloud computing qui propose une plateforme serverless pour exécuter des charges de travail d’intelligence artificielle et d’apprentissage automatique. Fondée en 2022 par Erik Bernhardsson et Akshay Sharma, l’entreprise offre un accès à la demande aux ressources GPU et CPU, permettant aux développeurs de déployer et de faire évoluer des applications d’IA sans gérer l’infrastructure sous-jacente. La plateforme est conçue pour prendre en charge une gamme de tâches, allant du traitement des données et de l’entraînement de modèles à l’inférence et aux traitements par lots, en mettant l’accent sur la simplicité et la rentabilité.
Le modèle serverless de Modal abstrait la gestion des clusters, permettant aux utilisateurs d’exécuter du code dans le cloud avec une mise à l’échelle automatique et une tarification à l’usage. La plateforme s’intègre aux outils et frameworks populaires de l’écosystème Machine learning, tels que PyTorch et TensorFlow, et prend en charge les flux de travail Deep learning. En s’appuyant sur des fournisseurs cloud comme Amazon Web Services et Google Cloud, Modal offre des options de calcul flexibles, notamment des GPU NVIDIA, pour répondre à divers besoins de performance et de budget.
Historique et fondation
Modal Labs a été fondée en 2022 par Erik Bernhardsson et Akshay Sharma. Bernhardsson, auparavant directeur technique de Better, avait de l’expérience dans la construction de systèmes de données à grande échelle, tandis que Sharma apportait son expertise acquise chez OpenAI et Figure AI. L’entreprise est née du constat que l’infrastructure cloud existante était souvent trop complexe et trop coûteuse pour les développeurs individuels et les petites équipes souhaitant exécuter des charges de travail d’IA. Modal visait à démocratiser l’accès au calcul haute performance en proposant une plateforme serverless qui élimine la charge opérationnelle.
L’entreprise a rapidement gagné en popularité dans la communauté de l’IA, attirant des investissements de grands fonds de capital-risque. En 2023, Modal a levé 16 millions de dollars lors d’un tour de série A mené par Lux Capital, avec la participation d’Amplify Partners et d’autres investisseurs. Ce financement a servi à agrandir l’équipe d’ingénierie et à améliorer les capacités de la plateforme, notamment en ce qui concerne la prise en charge de l’entraînement et de l’inférence des grands modèles de langage.
Plateforme et fonctionnalités
L’offre principale de Modal est une plateforme de calcul serverless qui permet aux utilisateurs d’exécuter du code Python dans le cloud avec une configuration minimale. Les développeurs peuvent définir des fonctions et des flux de travail qui sont exécutés à la demande, avec une mise à l’échelle automatique en fonction du trafic. La plateforme prend en charge l’exécution synchrone et asynchrone, ce qui la rend adaptée aussi bien à l’inférence en temps réel qu’au traitement par lots.
Les fonctionnalités clés incluent :
- Prise en charge des GPU et CPU : Modal donne accès à une variété de types d’instances, y compris les GPU NVIDIA A100 et H100, ainsi que des options CPU uniquement pour les charges de travail plus légères.
- Calcul distribué : Les utilisateurs peuvent paralléliser des tâches sur plusieurs machines, ce qui permet d’entraîner efficacement des modèles de réseaux de neurones et de traiter des données à grande échelle.
- Intégration transparente : Modal s’intègre aux outils et bibliothèques populaires de données et d’IA, tels que Hugging Face et Weights & Biases, et prend en charge les images Docker personnalisées.
- Gestion des coûts : Le modèle de tarification à l’usage permet d’optimiser les dépenses en réduisant les ressources à zéro lorsqu’elles ne sont pas utilisées, éliminant ainsi les frais liés aux ressources inactives.
Cas d’utilisation et applications
La plateforme est utilisée par diverses organisations, des startups aux grandes entreprises, pour des tâches telles que :
- Entraînement de modèles : Exécution de travaux d’entraînement Deep learning, y compris des modèles basés sur l’architecture Transformer, avec des capacités de calcul distribué.
- Inférence : Déploiement de grands modèles de langage et d’autres modèles d’IA sous forme d’API évolutives à faible latence.
- Traitement des données : Exécution de pipelines ETL et de transformations de données à l’aide de Python et de bibliothèques populaires comme Pandas et NumPy.
- Recherche et expérimentation : Permettre aux chercheurs de prototyper et de tester rapidement des algorithmes Machine learning sans avoir à gérer l’infrastructure.
Parmi les utilisateurs notables figurent des entreprises du secteur de l’IA générative, telles que AI21 Labs et Inflection AI, qui utilisent Modal pour l’entraînement et l’inférence de modèles. La plateforme a également été adoptée par des institutions académiques et des laboratoires de recherche pour leurs travaux en intelligence artificielle.
Paysage concurrentiel
Modal opère dans le secteur concurrentiel du cloud computing pour l’IA, face à des rivaux tels que CoreWeave, Cerebras et Groq, qui proposent également du matériel spécialisé et des services pour les charges de travail d’IA. Contrairement à ces fournisseurs, qui se concentrent souvent sur des clusters dédiés ou du matériel spécifique, Modal se distingue par son modèle serverless et son interface orientée développeur. Cette approche séduit les développeurs individuels et les petites équipes qui privilégient la facilité d’utilisation et la flexibilité plutôt que la performance brute.
Modal est également en concurrence avec les grands fournisseurs de cloud traditionnels comme Amazon Web Services, Microsoft Azure et Google Cloud, qui proposent des instances GPU et des services gérés. Cependant, l’abstraction serverless et la tarification granulaire de Modal offrent un point d’entrée plus accessible pour le développement d’IA, en particulier pour ceux qui souhaitent éviter la complexité de la gestion de l’infrastructure cloud.
Orientations futures
En 2024, Modal continue d’étendre sa plateforme, en ajoutant la prise en charge de nouveaux matériels et en améliorant les performances pour les charges de travail de grands modèles de langage. L’entreprise explore des partenariats avec des fournisseurs de matériel comme AMD et Intel afin d’offrir une gamme plus large d’options de calcul. Modal vise également à renforcer ses capacités d’entraînement distribué, permettant aux utilisateurs de former des modèles à grande échelle avec un minimum de modifications de code.
Avec la demande croissante pour les applications d’IA générative, Modal est bien positionnée pour devenir une couche d’infrastructure essentielle pour les développeurs d’IA. L’accent mis sur la simplicité du serverless et la rentabilité s’aligne sur la tendance du secteur vers des solutions d’IA plus accessibles et évolutives.