W&B, également connu sous le nom de Weights & Biases, est une plateforme d'opérations de machine learning (MLOps) qui fournit des outils de suivi d'expériences, de versionnement de jeux de données et de gestion de modèles. Elle permet aux data scientists et aux ingénieurs de journaliser et de comparer les cycles d'entraînement, de visualiser les métriques et de collaborer sur le développement de modèles. La plateforme est largement utilisée dans les contextes académiques et industriels, prenant en charge des bibliothèques telles que Deep learning et Neural network.
Fondée en 2017 par Lukas Biewald et Chris Van Pelt, W&B est née du besoin d'apporter la rigueur des pratiques d'ingénierie logicielle aux flux de travail de Machine learning. L'entreprise est basée à San Francisco, en Californie, et est devenue un outil central pour les équipes développant des systèmes d'Artificial intelligence, y compris celles travaillant sur les Large language models et les applications de Generative AI.
Fonctionnalités principales
L'offre principale de W&B est le suivi d'expériences, qui enregistre les hyperparamètres, les métriques et les artefacts pour chaque cycle d'entraînement. Les utilisateurs peuvent créer des tableaux de bord pour visualiser les courbes de perte, la précision et d'autres métriques en temps réel, et comparer les cycles côte à côte. La plateforme prend également en charge les balayages d'hyperparamètres, permettant une recherche automatisée sur les paramètres, et s'intègre à des frameworks populaires comme PyTorch et TensorFlow.
Une autre fonctionnalité clé est le versionnement des jeux de données et des modèles, qui aide les équipes à reproduire les expériences et à gérer la traçabilité des modèles. W&B propose également des outils de registre de modèles et de déploiement, facilitant la transition de l'expérimentation à la production. Les fonctionnalités de collaboration permettent aux membres de l'équipe de commenter les cycles et de partager les résultats, favorisant ainsi un processus de développement plus transparent.
Adoption et impact
W&B a été adopté par plus de 1 000 organisations, notamment de grandes entreprises technologiques et des institutions de recherche. Il est particulièrement populaire dans la communauté du Deep learning, de nombreux articles académiques citant W&B pour leurs journaux d'expériences. La facilité d'utilisation et les capacités de visualisation robustes de la plateforme en ont fait un outil standard dans de nombreux cours et laboratoires de recherche en Machine learning.
Dans le domaine du développement des Large language models, W&B est utilisé par des équipes d'entreprises comme OpenAI et Anthropic pour suivre les cycles de fine-tuning et évaluer les performances des modèles. Son intégration avec des services cloud tels que Amazon Web Services et Google Cloud permet une gestion évolutive des expériences. La plateforme prend également en charge les accélérateurs matériels comme les GPU Nvidia et les TPU Google, ce qui la rend polyvalente sur différentes infrastructures.
Entreprise et financement
W&B a levé un capital-risque important, avec un tour de série C en 2021 mené par Coatue et Tiger Global, portant le financement total à plus de 200 millions de dollars. La valorisation de l'entreprise a atteint environ 1,25 milliard de dollars, reflétant une forte confiance du marché. Le modèle économique de W&B repose sur une approche freemium, avec un niveau gratuit pour les particuliers et des plans payants pour les équipes et les entreprises, offrant des fonctionnalités avancées comme des tableaux de bord centralisés et des contrôles administratifs.
L'entreprise est en concurrence avec d'autres plateformes MLOps telles que MLflow et Neptune.ai, mais se différencie par son accent sur l'expérience utilisateur et son intégration approfondie avec les bibliothèques de ML populaires. La croissance de W&B est alimentée par la demande croissante de pratiques Machine learning reproductibles et évolutives dans tous les secteurs.
Orientations futures
Alors que l'Artificial intelligence continue d'évoluer, W&B étend ses capacités pour prendre en charge de nouveaux paradigmes comme l'évaluation des Generative AI et des Large language models. La plateforme a introduit des outils de suivi des prompts et d'évaluation des modèles, répondant aux défis uniques du développement des LLM. W&B investit également dans des intégrations avec les écosystèmes open-source et les technologies cloud-native, visant à devenir un élément essentiel de la pile de développement de l'IA.
En 2023, W&B a annoncé un partenariat avec CoreWeave pour offrir des clusters GPU optimisés pour l'entraînement et le fine-tuning, comblant ainsi davantage le fossé entre l'expérimentation et la production. L'entreprise explore également des fonctionnalités de surveillance des modèles et de détection de dérive, aidant les équipes à maintenir les performances des modèles dans des déploiements réels.