Le 22 août 2022, Nvidia a annoncé l'acquisition d'Omni ML, une startup connue pour avoir développé le framework MosaicML, pour environ 800 millions de dollars. Cet accord faisait partie de la stratégie de Nvidia visant à étendre son écosystème logiciel d'intelligence artificielle au-delà de son activité matérielle de base.
Omni ML a été fondée en 2021 par une équipe d'ingénieurs et de chercheurs ayant des parcours en apprentissage automatique et en systèmes. L'entreprise se concentrait sur la création d'outils pour simplifier la formation et le déploiement de réseaux de neurones à grande échelle. Son produit phare, le framework MosaicML, permettait aux développeurs de former des grands modèles de langage sur une infrastructure de calcul distribué avec des coûts et une complexité réduits.
Le framework a attiré l'attention pour sa capacité à optimiser le processus de formation, en utilisant des techniques telles que le élagage de modèles et la augmentation de données. Il prenait en charge des architectures de modèles populaires, y compris les transformeurs, et pouvait fonctionner sur diverses plateformes matérielles, notamment les unités de traitement graphique de Nvidia et d'AMD. Le framework incluait également un environnement d'exécution capable d'optimiser automatiquement les modèles pour un matériel spécifique, réduisant ainsi le besoin de réglage manuel.
L'annonce de l'acquisition
Nvidia a révélé l'acquisition dans un communiqué de presse le 22 août 2022. La contrepartie totale était d'environ 800 millions de dollars, composée de liquidités et d'actions. L'accord a été conclu au quatrième trimestre 2022, après avoir obtenu les approbations réglementaires.
L'acquisition a été menée par la division informatique d'entreprise de Nvidia, responsable des produits logiciels d'IA de l'entreprise. Nvidia a déclaré que la technologie d'Omni ML serait intégrée à sa suite AI Enterprise, une plateforme conçue pour déployer des applications d'IA dans les centres de données et les environnements périphériques. L'entreprise a également indiqué que le framework MosaicML serait disponible en tant que produit autonome pour les développeurs.
Justification stratégique
La principale motivation de Nvidia pour cette acquisition était de renforcer ses offres logicielles. Bien que Nvidia soit le fournisseur dominant d'accélérateurs d'IA, sa pile logicielle faisait face à la concurrence de frameworks open-source et de services basés sur le cloud. En acquérant Omni ML, Nvidia visait à fournir une solution plus complète capable de gérer à la fois la formation et l'inférence sur une gamme de matériels.
Le framework MosaicML était particulièrement précieux car il prenait en charge la formation distribuée sur plusieurs nœuds, une fonctionnalité de plus en plus importante à mesure que les grands modèles de langage gagnaient en taille. Nvidia prévoyait de combiner le framework avec ses propres bibliothèques, telles que CUDA et TensorRT, pour offrir une expérience fluide aux développeurs d'IA. L'acquisition a également donné à Nvidia accès à l'expertise d'Omni ML en optimisation de modèles, qui pouvait être appliquée à ses propres conceptions matérielles.
Contexte industriel
L'acquisition a eu lieu pendant une période de croissance rapide du marché de l'IA générative. En 2022, les grands modèles de langage tels que GPT-3 et BERT étaient utilisés dans une large gamme d'applications, des chatbots à la génération de contenu. Cependant, la formation de ces modèles nécessitait des ressources de calcul substantielles, ce qui limitait l'accès aux organisations bien financées.
Les concurrents de Nvidia, notamment AMD et Intel, investissaient également dans les logiciels d'IA pour compléter leur matériel. Les fournisseurs de cloud tels que Amazon Web Services, Google Cloud et Microsoft Azure proposaient des services gérés pour la formation en IA, utilisant souvent des GPU Nvidia. L'acquisition d'Omni ML a permis à Nvidia d'offrir une couche logicielle propriétaire capable de différencier son matériel de celui de ses rivaux.
Réactions et analyses
Les analystes du secteur ont considéré l'acquisition comme une décision positive pour Nvidia, bien que certains aient noté que le prix était élevé pour une startup aux revenus limités. L'accord était perçu comme faisant partie d'une tendance plus large des entreprises matérielles à acquérir des startups logicielles pour créer des solutions d'IA intégrées. Par exemple, Nvidia avait précédemment acquis Cumulus Networks en 2020 pour renforcer ses logiciels réseau.
Certains observateurs ont souligné que la technologie d'Omni ML chevauchait des projets open-source existants, tels que PyTorch et TensorFlow. Cependant, Nvidia a fait valoir que les capacités d'optimisation du framework offraient un avantage concurrentiel, en particulier pour les entreprises ayant besoin de déployer des modèles d'IA sur site ou dans des environnements cloud hybrides. L'acquisition a également été perçue comme une mesure défensive pour empêcher les concurrents d'accéder à la technologie.
Conséquences
Après l'acquisition, l'équipe d'Omni ML a rejoint la division logicielle de Nvidia. Le framework MosaicML a été rebaptisé Nvidia Mosaic et intégré à la plateforme AI Enterprise. Au cours des mois suivants, Nvidia a publié plusieurs mises à jour ajoutant la prise en charge de nouvelles architectures de modèles et de configurations matérielles.
L'acquisition a également eu un impact sur l'écosystème d'IA au sens large. Elle a signalé que Nvidia était prête à investir massivement dans les logiciels pour maintenir son leadership sur le marché de l'IA. Début 2023, les revenus logiciels d'IA de Nvidia avaient considérablement augmenté, en partie grâce à l'adoption de Mosaic parmi les clients d'entreprise. La base d'utilisateurs du framework s'est élargie pour inclure des institutions de recherche et des startups qui s'appuyaient auparavant sur des outils open-source.
Héritage
L'acquisition d'Omni ML est considérée comme un moment clé dans la transformation de Nvidia, passant d'une entreprise matérielle à un fournisseur d'IA à pile complète. Elle a démontré l'importance des logiciels pour libérer le potentiel du matériel d'IA et a établi un précédent pour de futures acquisitions dans le secteur.
Aujourd'hui, la technologie développée par Omni ML continue d'être utilisée dans les produits de Nvidia, y compris ses systèmes DGX et ses services cloud. L'influence du framework se manifeste dans l'adoption généralisée de techniques de formation efficaces, telles que la formation en précision mixte et l'accumulation de gradients, désormais standard dans le domaine du apprentissage profond. L'acquisition a également mis en évidence l'importance croissante de l'optimisation logicielle dans le marché du matériel d'IA.