MosaicML était une entreprise spécialisée en intelligence artificielle, axée sur le développement de logiciels pour la formation et le déploiement de grands modèles de langage et d'autres modèles d'apprentissage automatique. L'entreprise était connue pour ses bibliothèques open source et pour son accent mis sur la démocratisation de l'apprentissage profond, le rendant plus accessible et plus rentable pour les entreprises. Sa technologie visait à réduire les ressources de calcul nécessaires à la formation des réseaux de neurones, permettant aux organisations de créer des modèles personnalisés avec leurs propres données.
Fondée en 2021, MosaicML était basée à San Francisco, en Californie. Les offres principales de l'entreprise comprenaient la bibliothèque MosaicML Composer pour la formation de modèles et le service MosaicML Inference pour leur déploiement. Ces outils prenaient en charge une gamme d'architectures de modèles, y compris les transformeurs, et étaient conçus pour fonctionner sur diverses plateformes cloud. En juin 2023, MosaicML a été acquise par Databricks, une entreprise de données et d'IA, pour environ 1,4 milliard de dollars, marquant une étape importante dans l'expansion de Databricks dans l'IA générative.
Fondation et développement initial
MosaicML a été fondée par Naveen Rao et Hanlin Tang, qui avaient auparavant travaillé sur du matériel et des logiciels d'IA. Rao, ancien cadre chez Intel, et Tang, ancien chercheur en IA, visaient à résoudre les coûts élevés et la complexité associés à la formation de modèles à grande échelle. L'entreprise a rapidement attiré l'attention grâce à ses approches innovantes pour optimiser les processus de formation, telles que le chargement efficace des données et les ajustements d'architecture de modèles.
Au cours de ses premières années, MosaicML a publié plusieurs outils open source qui ont gagné en popularité auprès de la communauté de l'apprentissage automatique. La bibliothèque Composer, lancée en 2022, offrait une collection de méthodes et de techniques de formation capables d'accélérer la formation des modèles jusqu'à 7 fois par rapport aux approches standard. Cela était rendu possible grâce à des méthodes comme la normalisation par couches, le clipping de gradient et l'apprentissage par programme, le tout intégré dans une API simple.
Technologie et produits
La technologie de MosaicML se concentrait sur l'amélioration de l'efficacité de l'apprentissage profond. L'entreprise a développé une plateforme de formation pouvant être déployée sur site ou dans le cloud, prenant en charge les principaux fournisseurs de services cloud comme Amazon Web Services, Microsoft Azure et Google Cloud. Son produit phare, MosaicML Composer, offrait un cadre flexible pour la formation de réseaux de neurones avec des optimisations intégrées.
L'entreprise proposait également MosaicML Inference, un service pour déployer des modèles à grande échelle. Ce service prenait en charge divers types de modèles, y compris les grands modèles de langage, et offrait des fonctionnalités telles qu'une faible latence et une gestion des coûts. L'approche de MosaicML permettait aux entreprises d'affiner des modèles sur leurs données propriétaires, répondant ainsi à des besoins de confidentialité et de personnalisation que les modèles généralistes de fournisseurs comme OpenAI ou Anthropic ne pouvaient pas facilement satisfaire.
Acquisition par Databricks
En juin 2023, Databricks a annoncé son intention d'acquérir MosaicML pour 1,4 milliard de dollars. L'acquisition a été finalisée plus tard dans l'année, intégrant l'équipe et la technologie de MosaicML dans la plateforme de Databricks. Cette décision s'inscrivait dans la stratégie de Databricks visant à renforcer ses capacités en IA générative, permettant à ses clients de créer et de déployer des grands modèles de langage personnalisés directement dans l'environnement Databricks.
L'acquisition a été perçue comme une réponse à la demande croissante de solutions d'IA pour les entreprises. En intégrant les outils de MosaicML, Databricks cherchait à offrir une plateforme de veille stratégique sur les données plus complète, combinant son architecture de lakehouse avec des capacités avancées de formation et de déploiement de modèles. Cette intégration a permis à Databricks de prendre en charge les modèles open source et d'offrir une alternative aux systèmes propriétaires, donnant ainsi aux clients plus de contrôle sur leurs initiatives en matière d'IA.
Impact et héritage
L'influence de MosaicML a dépassé le cadre de son acquisition. Ses contributions open source, en particulier la bibliothèque Composer, ont continué à être utilisées par les développeurs et les chercheurs de la communauté de l'apprentissage automatique. L'accent mis par l'entreprise sur l'efficacité a contribué à populariser des techniques de réduction des coûts de formation, qui sont devenues de plus en plus importantes à mesure que les modèles gagnaient en taille et en complexité.
Après l'acquisition, la technologie de MosaicML est devenue un composant fondamental de l'offre d'IA de Databricks. Les outils ont été intégrés à la plateforme Databricks, permettant aux utilisateurs de former et de déployer des modèles sur leurs propres données dans un environnement sécurisé et géré. Cet héritage a contribué à la croissance de Databricks, dont la valorisation est passée à 62 milliards de dollars en décembre 2024, puis à 134 milliards de dollars en décembre 2025, portée en partie par la demande de solutions d'IA générative.