Fiddler AI est une entreprise de logiciels qui fournit une plateforme d'opérations de machine learning (MLOps) conçue pour surveiller, expliquer et analyser les modèles de machine learning en production. Fondée en 2018, l'entreprise se concentre sur la résolution des défis liés à la gouvernance des modèles, à la détection des biais et à la transparence opérationnelle pour les entreprises déployant des systèmes de Machine learning. La plateforme est utilisée par les équipes de science des données et d'ingénierie pour garantir que les modèles d'IA se comportent comme prévu, respectent les exigences réglementaires et maintiennent leurs performances dans le temps.
L'entreprise est née du besoin croissant d'outils allant au-delà du développement de modèles, abordant le « dernier kilomètre » du déploiement de l'IA. L'offre principale de Fiddler AI comprend la surveillance des modèles en temps réel, des capacités d'IA explicable (XAI) et des fonctionnalités d'atténuation des biais. Elle prend en charge une large gamme de types de modèles, des modèles statistiques traditionnels aux architectures complexes de Deep learning et de Large language model, ce qui la rend polyvalente pour diverses applications industrielles.
Historique et fondation
Fiddler AI a été fondée en 2018 par Krishna Gade, ancien ingénieur manager chez Facebook (désormais Meta), et Amit Paka, ancien chef de produit chez Microsoft et Facebook. L'entreprise a été initialement incubée au sein de l'écosystème du Stanford AI Lab, en tirant parti de la recherche académique sur l'apprentissage automatique interprétable. Le nom « Fiddler » a été inspiré par l'idée de « jouer » avec les modèles, à la manière d'un musicien accordant un instrument, reflétant l'accent mis par la plateforme sur le réglage fin et la compréhension du comportement de l'IA.
L'entreprise a levé des fonds de capital-risque importants, notamment un tour de table de série A de 10 millions de dollars en 2019 mené par Lightspeed Venture Partners, suivi d'un tour de série B de 35 millions de dollars en 2021. En 2022, Fiddler AI avait élargi sa base de clients dans des secteurs tels que les services financiers, la santé et la vente au détail, avec des clients notables incluant de grandes banques et compagnies d'assurance. En 2023, l'entreprise a continué de croître, intégrant le support des modèles de Generative AI, reflétant le virage de l'industrie vers les systèmes d'Artificial intelligence.
Fonctionnalités principales de la plateforme
La plateforme de Fiddler AI repose sur trois piliers principaux : la surveillance, l'explicabilité et l'analyse. Le composant de surveillance fournit un suivi en temps réel des métriques de performance des modèles, y compris la précision, la dérive et la qualité des données. Il alerte les équipes sur les anomalies, telles que des changements soudains dans les distributions de prédictions ou les schémas de données d'entrée, qui peuvent indiquer une dégradation du modèle ou une dérive conceptuelle.
Le module d'explicabilité offre des explications globales et locales. Les explications globales aident les utilisateurs à comprendre quelles caractéristiques influencent le plus les prédictions du modèle dans l'ensemble, tandis que les explications locales fournissent des informations sur des prédictions individuelles. Cela est réalisé grâce à des techniques comme les valeurs SHAP (SHapley Additive exPlanations) et LIME (Local Interpretable Model-agnostic Explanations), intégrées à la plateforme. Ces outils sont cruciaux pour la conformité réglementaire, en particulier dans les secteurs soumis à des exigences d'audit strictes.
De plus, Fiddler AI inclut des outils de détection des biais et d'analyse de l'équité. Ceux-ci permettent aux organisations d'identifier et d'atténuer les biais liés à des attributs sensibles tels que la race, le genre ou l'âge, garantissant que les modèles ne perpétuent pas des résultats discriminatoires. La plateforme prend également en charge la comparaison de modèles et les tests A/B, permettant aux équipes d'évaluer de nouvelles versions avant leur déploiement.
Technologie et intégration
Fiddler AI est conçu pour être agnostique aux modèles, ce qui signifie qu'il peut fonctionner avec n'importe quel modèle de machine learning, quel que soit le framework sous-jacent, y compris TensorFlow, PyTorch et scikit-learn. Il prend en charge les déploiements cloud et sur site, avec des intégrations pour les principaux fournisseurs de cloud comme Amazon Web Services, Microsoft Azure et Google Cloud. Cette flexibilité permet aux entreprises d'adopter la plateforme sans perturber leur infrastructure existante.
La plateforme utilise un agent léger qui peut être déployé aux côtés des modèles pour capturer les données d'inférence. Ces données sont ensuite transmises au backend de Fiddler, où elles sont traitées pour la surveillance et l'analyse. Le système prend en charge les pipelines de données par lots et en temps réel, ce qui le rend adapté aux applications de streaming et aux environnements de traitement par lots traditionnels.
Pour les applications de Large language model, Fiddler AI offre des fonctionnalités spécialisées telles que la surveillance des invites et l'évaluation de la qualité des réponses. Cela inclut le suivi des taux d'hallucination, de la toxicité et du respect des directives de sécurité, qui sont critiques pour les déploiements de LLM en production. La plateforme s'intègre également aux API d'OpenAI et d'Anthropic, permettant aux équipes de surveiller l'utilisation de modèles tiers.
Applications industrielles et cas d'utilisation
Fiddler AI dessert une gamme diversifiée d'industries. Dans les services financiers, la plateforme est utilisée pour la notation de crédit, la détection de fraude et la conformité en matière de lutte contre le blanchiment d'argent (AML). Les banques exploitent les fonctionnalités d'explicabilité pour fournir aux clients des raisons pour les refus de prêt, comme l'exigent des réglementations telles que l'EQUAL Credit Opportunity Act. Dans le secteur de la santé, Fiddler AI aide à surveiller les modèles prédictifs pour la réadmission des patients et le diagnostic, garantissant précision et équité dans le soutien à la décision clinique.
Dans le secteur de la vente au détail, la plateforme est appliquée à la prévision de la demande et aux systèmes de recommandation personnalisés. En surveillant la dérive des modèles, les détaillants peuvent s'adapter aux comportements changeants des consommateurs. De plus, Fiddler AI est utilisé dans la fabrication pour la maintenance prédictive, où il suit les données des capteurs et les prédictions de défaillance des équipements, réduisant les temps d'arrêt et les coûts opérationnels.
La plateforme soutient également les équipes MLOps dans l'établissement de cadres de gouvernance robustes. Elle fournit des pistes d'audit et des fonctionnalités de documentation qui aident les organisations à respecter les politiques internes et les réglementations externes, telles que le Règlement général sur la protection des données (RGPD) de l'UE et la loi sur l'IA proposée. Cela positionne Fiddler AI comme un acteur clé du mouvement de l'IA responsable.
Paysage concurrentiel et orientations futures
Fiddler AI opère sur un marché concurrentiel qui comprend d'autres fournisseurs de MLOps et de surveillance de modèles tels qu'Arize AI, WhyLabs et DataRobot. Sa différenciation réside dans son fort accent sur l'explicabilité et la détection des biais, qui sont souvent des fonctionnalités secondaires sur les plateformes concurrentes. L'entreprise met également l'accent sur la facilité d'intégration et le support d'une large gamme de types de modèles, y compris les charges de travail émergentes de Generative AI.
À l'avenir, Fiddler AI vise à étendre ses capacités en matière de remédiation automatisée des modèles, où la plateforme non seulement détecterait les problèmes, mais suggérerait ou mettrait en œuvre des actions correctives. L'entreprise investit également dans la recherche sur l'inférence causale et les explications contrefactuelles, ce qui pourrait fournir des informations plus approfondies sur le comportement des modèles. En 2024, Fiddler AI continue d'évoluer, avec une feuille de route incluant un support amélioré pour les modèles sur appareil et les environnements de calcul en périphérie.
Conclusion
Fiddler AI s'est imposé comme un acteur significatif dans l'espace MLOps, fournissant des outils essentiels pour surveiller, expliquer et gouverner les modèles de machine learning. Son accent sur la transparence et l'équité répond à des besoins critiques à une époque d'adoption croissante de l'IA et de contrôle réglementaire. En prenant en charge une large gamme de modèles et en s'intégrant aux principales plateformes cloud, Fiddler AI offre une solution complète pour les entreprises cherchant à déployer l'IA de manière responsable. Alors que le domaine de l'Artificial intelligence continue de progresser, des plateformes comme Fiddler AI joueront un rôle crucial pour garantir que les systèmes d'IA sont dignes de confiance et alignés sur les valeurs humaines.