TruEra est une entreprise de logiciels qui développe une plateforme de qualité et d'explicabilité pour l'intelligence artificielle. La plateforme est conçue pour aider les organisations à diagnostiquer, surveiller et expliquer les modèles d'apprentissage automatique tout au long de leur cycle de vie, du développement à la production. Elle fournit des outils pour la validation des modèles, le débogage et la gouvernance, visant à répondre aux défis liés à la performance des modèles, à l'équité et à la conformité réglementaire.
L'entreprise a été fondée en 2019 par une équipe ayant des antécédents en apprentissage automatique, en logiciels d'entreprise et en science des données. La plateforme de TruEra est utilisée par les équipes de science des données et d'apprentissage automatique pour obtenir des informations sur le comportement des modèles, identifier des problèmes potentiels tels que la dérive des données ou les biais, et s'assurer que les modèles fonctionnent comme prévu. La plateforme prend en charge une gamme de types de modèles, y compris les modèles d'apprentissage automatique traditionnels et les modèles d'apprentissage profond plus complexes.
Capacités principales
La plateforme de TruEra offre plusieurs capacités clés pour la gestion de la qualité de l'IA. L'une de ses fonctions principales est le diagnostic des modèles, qui permet aux utilisateurs d'analyser la performance des modèles sur différents segments de données. Cela inclut l'identification des domaines où un modèle peut être sous-performant ou présenter un comportement inattendu. La plateforme fournit des fonctionnalités d'explicabilité qui aident les utilisateurs à comprendre pourquoi un modèle fait des prédictions spécifiques, en utilisant des techniques telles que l'attribution de caractéristiques et les explications indépendantes du modèle.
Une autre capacité importante est la surveillance des modèles. TruEra permet une surveillance continue des modèles en production, en suivant des métriques telles que la dérive des prédictions, la dérive des données et la dégradation de la performance au fil du temps. Cela aide les organisations à détecter les problèmes tôt et à prendre des mesures correctives. La plateforme comprend également des fonctionnalités pour la gouvernance des modèles, soutenant les pistes d'audit et la documentation pour répondre aux exigences réglementaires.
Technologie et approche
La technologie de TruEra est fondée sur la recherche en apprentissage automatique et en explicabilité. La plateforme utilise une combinaison de techniques, y compris les valeurs SHAP (SHapley Additive exPlanations) et d'autres méthodes d'attribution de caractéristiques, pour fournir des informations sur les décisions des modèles. Elle est conçue pour fonctionner avec des frameworks d'apprentissage automatique populaires et des plateformes cloud, en s'intégrant à des outils comme Amazon Web Services, Azure et Google Cloud.
L'entreprise met l'accent sur une approche de « gestion de la qualité » de l'IA, similaire à la manière dont la qualité des logiciels est gérée dans le développement traditionnel. Cela implique des tests continus, une validation et une surveillance des modèles pour s'assurer qu'ils répondent à des normes définies. La plateforme de TruEra vise à fournir une vue centralisée de la santé des modèles au sein d'une organisation, permettant la collaboration entre les scientifiques des données, les ingénieurs et les parties prenantes métier.
Position sur le marché et cas d'utilisation
TruEra opère dans le domaine en pleine croissance de l'observabilité et de la gouvernance de l'IA, en concurrence avec d'autres fournisseurs offrant des solutions de surveillance et d'explicabilité des modèles. La plateforme est utilisée dans divers secteurs, y compris les services financiers, la santé et la technologie. Les cas d'utilisation courants incluent la modélisation du risque de crédit, la détection de fraude et la prédiction de l'attrition des clients, où la transparence et la fiabilité des modèles sont essentielles.
Dans les services financiers, par exemple, TruEra aide les institutions à se conformer aux réglementations qui exigent des explications pour les décisions de crédit. Dans le secteur de la santé, elle soutient la validation des modèles utilisés pour l'évaluation des risques des patients. La plateforme est également utilisée par des organisations déployant des applications de grands modèles de langage, où elle aide à surveiller des problèmes tels que l'hallucination ou les biais.
Développements récents
TruEra a continué à faire évoluer sa plateforme pour répondre aux défis émergents de l'IA. L'entreprise a élargi son champ d'action pour inclure l'IA générative et la qualité des grands modèles de langage, offrant des outils pour évaluer et surveiller ces modèles. Cela inclut des capacités pour évaluer l'exactitude factuelle, la sécurité et l'alignement avec les cas d'utilisation prévus.
En 2023, TruEra a annoncé des améliorations de sa plateforme pour soutenir les applications de IA générative, fournissant des fonctionnalités pour les tests de prompts et l'évaluation des modèles. L'entreprise a également levé des fonds supplémentaires pour soutenir sa croissance, avec des investisseurs incluant Wing Venture Capital et d'autres. En 2024, TruEra continue de développer ses offres, se positionnant comme une solution complète pour la qualité et la confiance en l'IA.