WhyLabs est une entreprise de logiciels qui fournit des plateformes d'observabilité et de surveillance pour les systèmes d'intelligence artificielle et d'apprentissage automatique. Ses produits sont conçus pour aider les organisations à suivre la santé des pipelines de données et des modèles d'apprentissage automatique en production, en détectant des problèmes tels que la dérive des données, la dégradation des modèles et les anomalies avant qu'ils n'affectent les résultats commerciaux. L'entreprise positionne sa technologie comme un plan de contrôle centralisé pour les opérations d'IA, servant les équipes de science des données, d'ingénierie et de gouvernance.
Fondée en 2019 et dont le siège est à Seattle, dans l'État de Washington, WhyLabs est issue du mouvement plus large visant à opérationnaliser l'apprentissage automatique. L'offre principale de l'entreprise, la plateforme WhyLabs, s'intègre aux flux de travail ML existants pour fournir une surveillance continue des entrées, des sorties et des métriques de performance des modèles. Elle prend en charge une gamme d'environnements de déploiement, notamment les services cloud comme Amazon Web Services, Microsoft Azure et Google Cloud, ainsi que des configurations sur site et hybrides. La plateforme est construite sur une bibliothèque open source appelée whylogs, qui génère des profils statistiques des données pour permettre une journalisation légère et évolutive.
Historique et fondation
WhyLabs a été cofondée par une équipe ayant des parcours en science des données, en ingénierie logicielle et en infrastructure ML. Les fondateurs ont identifié une lacune sur le marché : alors que de nombreux outils existaient pour construire et entraîner des modèles, peu répondaient aux défis de leur surveillance une fois déployés. L'entreprise s'est initialement concentrée sur le développement de whylogs en tant que projet open source, qui a gagné en popularité auprès des équipes de données cherchant un moyen flexible de journaliser et de résumer les distributions de données. En 2021, WhyLabs a levé un tour de financement de série A pour développer sa plateforme commerciale et renforcer ses équipes d'ingénierie et de commercialisation. Depuis, l'entreprise a établi des partenariats avec les principaux fournisseurs de cloud et de solutions ML pour intégrer ses capacités de surveillance dans des flux de travail d'IA plus larges.
Technologie et produits
La plateforme WhyLabs fournit une interface unifiée pour surveiller à la fois les données structurées (telles que les ensembles de données tabulaires) et non structurées (telles que le texte ou les images) utilisées dans les applications d'apprentissage automatique. Les fonctionnalités clés incluent la détection de dérive, qui compare les distributions de données actuelles aux références historiques ; la surveillance des performances pour les modèles de classification et de régression ; et des mécanismes d'alerte qui informent les équipes des anomalies via des intégrations avec des outils comme Slack ou PagerDuty. La plateforme prend également en charge l'observabilité des grands modèles de langage (LLM), en suivant des métriques telles que l'utilisation de jetons, la latence des réponses et les violations de sécurité pour les applications d'IA générative. Cette capacité est particulièrement pertinente pour les organisations déployant des systèmes d'IA générative, où la surveillance des hallucinations ou des sorties biaisées est critique.
whylogs, le cœur open source, fonctionne en générant des résumés statistiques compacts (ou « profils ») des données lorsqu'elles circulent dans un système. Ces profils peuvent être fusionnés et analysés pour calculer des métriques de dérive sans stocker les données brutes, répondant ainsi aux préoccupations de confidentialité et de stockage. WhyLabs propose également une fonctionnalité de catalogue de données qui aide les organisations à découvrir et à gérer les actifs de données tout au long de leur cycle de vie ML.
Cas d'utilisation et impact sectoriel
WhyLabs sert une gamme d'industries, notamment les services financiers, la santé, la vente au détail et la technologie. Dans la finance, la plateforme est utilisée pour surveiller les modèles de détection de fraude et les systèmes de notation de crédit, garantissant que les changements de comportement des clients ne dégradent pas silencieusement la précision des modèles. Dans la santé, elle aide à suivre les modèles qui assistent au diagnostic ou à la stratification du risque des patients, où la fiabilité est primordiale. Les outils de l'entreprise sont également adoptés par des organisations exécutant des réseaux de neurones et des modèles basés sur transformeurs, car ces architectures peuvent être sensibles aux changements dans les distributions des données d'entrée.
Un cas d'utilisation notable se situe dans le MLOps (opérations d'apprentissage automatique), où WhyLabs complète les pipelines CI/CD existants en fournissant une boucle de rétroaction continue. Les équipes de science des données peuvent configurer des moniteurs pendant le développement des modèles et les maintenir en production, permettant une transition fluide de l'expérimentation au déploiement. La capacité de la plateforme à gérer à la fois les données par lots et en streaming la rend adaptée aux applications en temps réel, telles que les systèmes de recommandation ou les pipelines de perception des véhicules autonomes, bien que ce dernier domaine reste émergent.
Gouvernance et IA responsable
WhyLabs répond également au besoin croissant de gouvernance de l'IA et de pratiques d'IA responsable. En fournissant des journaux détaillés du comportement des modèles au fil du temps, la plateforme aide les organisations à démontrer leur conformité avec des réglementations telles que la loi européenne sur l'IA ou des cadres internes de gestion des risques. Elle permet des pistes d'audit qui montrent quand les modèles ont été mis à jour, comment ils ont performé auprès de différents groupes démographiques et si des biais ont émergé après le déploiement. Cela s'aligne sur les efforts plus larges de l'industrie pour rendre l'intelligence artificielle plus transparente et responsable.
L'entreprise souligne que la surveillance ne concerne pas seulement la performance technique, mais aussi l'impact commercial. Par exemple, une baisse de la précision d'un modèle pourrait être corrélée à une diminution de la satisfaction client ou à une augmentation des coûts opérationnels. Les tableaux de bord de WhyLabs permettent aux parties prenantes de relier les métriques ML aux KPI commerciaux, facilitant une meilleure prise de décision entre les départements.
Paysage concurrentiel et orientations futures
Le marché de la surveillance ML comprend d'autres acteurs tels qu'Arize AI, Fiddler et Evidently AI, mais WhyLabs se différencie par sa base open source et son accent sur l'observabilité centrée sur les données. L'entreprise a également investi dans la recherche autour des algorithmes de détection de dérive et de détection d'anomalies, publiant des articles et contribuant aux discussions académiques. En 2025, WhyLabs continue d'étendre ses capacités de surveillance des LLM, ajoutant des fonctionnalités pour suivre les changements d'ingénierie des invites et les comparaisons de versions de modèles. L'entreprise explore également des intégrations avec les plateformes de calcul en périphérie et le ML sur appareil, ce qui étendrait la surveillance à des environnements avec une connectivité limitée.
La trajectoire de WhyLabs reflète une tendance plus large dans l'industrie de l'IA : à mesure que les modèles deviennent plus complexes et largement déployés, le besoin d'outils opérationnels robustes croît. L'accent mis par l'entreprise sur les normes ouvertes et l'interopérabilité la positionne bien pour devenir une couche par défaut dans la pile d'IA, similaire à la manière dont les outils de surveillance comme Datadog ou New Relic sont devenus essentiels pour les logiciels traditionnels. Cependant, le domaine reste naissant, et les gagnants à long terme dépendront de la rapidité avec laquelle les organisations adopteront des pratiques MLOps matures.