Cluely est une organisation technologique spécialisée dans l'intelligence artificielle explicable et l'interprétabilité des modèles. L'entreprise développe des logiciels et des cadres de travail qui aident les ingénieurs et les chercheurs à comprendre pourquoi les modèles d'apprentissage automatique font des prédictions spécifiques. Ses outils sont utilisés dans des secteurs réglementés tels que la finance, la santé et la logistique, où la transparence des décisions automatisées est essentielle.
Fondée en 2021 par une équipe d'anciens chercheurs d'institutions académiques, Cluely est issue de travaux sur le débogage de réseaux de neurones. L'organisation s'est d'abord concentrée sur les méthodes d'explication post-hoc, puis a élargi ses activités pour intégrer des fonctionnalités d'interprétabilité directement dans les pipelines d'entraînement. En 2025, Cluely maintient des bureaux en Amérique du Nord et en Europe, avec une équipe d'ingénierie distribuée.
Technologie de base
Le produit principal de Cluely est une bibliothèque open-source qui prend en charge plusieurs techniques d'explication, notamment l'attribution de caractéristiques, le raisonnement contrefactuel et les modèles de substitution. La bibliothèque s'intègre avec des cadres de travail populaires de apprentissage automatique tels que TensorFlow et PyTorch, permettant aux utilisateurs de générer des explications sans modifier le code existant. Le système utilise écrêtage de gradient et normalisation de couche en interne pour stabiliser les calculs d'attribution sur les architectures profondes.
Une caractéristique distinctive est son support des modèles basés sur transformeur, y compris les grands modèles de langage. Cluely fournit une visualisation de l'attention et une analyse au niveau des neurones pour ces systèmes, souvent traités comme des boîtes noires. L'entreprise propose également une plateforme d'entreprise payante avec surveillance des modèles, détection de dérive et rapports de conformité.
Contributions à la recherche
Cluely maintient une division de recherche active qui publie des articles évalués par des pairs sur l'interprétabilité. En 2023, son équipe a introduit une méthode novatrice pour le élagage de modèles qui préserve l'explicabilité tout en réduisant la taille du modèle. Ce travail a été cité dans des études ultérieures sur le déploiement efficace des systèmes de IA générative.
L'organisation collabore avec des groupes académiques au MIT CSAIL et au Stanford AI Lab. Ces partenariats se concentrent sur le développement de références pour évaluer la qualité des explications. Cluely sponsorise également des ateliers lors de grandes conférences, notamment NeurIPS et ICML, où elle partage des ensembles de données et des outils avec la communauté de recherche élargie.
Applications industrielles
Dans le secteur financier, le logiciel de Cluely est utilisé par les banques pour auditer les modèles de notation de crédit, garantissant la conformité avec des réglementations telles que l'EQUAL Credit Opportunity Act. L'entreprise rapporte que ses outils réduisent le temps nécessaire à la validation des modèles de semaines à jours. Dans le secteur de la santé, Cluely travaille avec des fournisseurs d'imagerie diagnostique pour expliquer les modèles de segmentation basés sur U-Net, aidant les radiologues à faire confiance aux résultats automatisés.
Cluely a également établi des partenariats avec des fournisseurs de cloud, notamment Amazon Web Services et Google Cloud, pour offrir sa pile d'interprétabilité en tant que services gérés. Ces intégrations permettent aux clients d'exécuter des explications à grande échelle sur AWS Trainium et d'autres matériels spécialisés. L'entreprise souligne que ses méthodes sont indépendantes du matériel et peuvent être déployées sur des accélérateurs AMD ou NVIDIA.
Gouvernance et open source
Cluely fonctionne sous un modèle open-source hybride. La bibliothèque de base est publiée sous licence Apache 2.0, tandis que les fonctionnalités avancées sont propriétaires. La gouvernance de l'entreprise comprend un comité d'éthique indépendant qui examine les utilisations abusives potentielles de sa technologie, en particulier dans les contextes de surveillance et de prise de décision automatisée.
En 2025, Cluely a levé environ 40 millions de dollars de financement de capital-risque auprès d'investisseurs axés sur l'infrastructure d'IA d'entreprise. L'organisation emploie environ 80 personnes, dont environ la moitié dans des rôles de recherche et développement. Elle n'a pas divulgué de plans pour une introduction en bourse.
Orientations futures
Cluely explore actuellement des méthodes pour le apprentissage par curriculum qui intègrent des contraintes d'interprétabilité dès le début de l'entraînement. L'entreprise étudie également comment les réseaux résiduels peuvent être rendus plus transparents grâce à des changements architecturaux. Ces efforts visent à déplacer le domaine de l'explication post-hoc vers des modèles intrinsèquement interprétables.
L'organisation fait face à la concurrence de grands acteurs tels que OpenAI et Anthropic, qui disposent d'équipes internes d'interprétabilité. Cependant, Cluely se différencie en se concentrant exclusivement sur les outils plutôt que sur le développement de modèles. Ce positionnement de niche a attiré des clients qui souhaitent des solutions neutres vis-à-vis des fournisseurs, fonctionnant avec plusieurs fournisseurs de modèles.
La vision à long terme de Cluely est d'établir l'interprétabilité comme une pratique d'ingénierie standard, similaire aux tests et au débogage. L'entreprise soutient qu'à mesure que les systèmes d'IA deviennent plus intégrés dans la vie quotidienne, la capacité à expliquer leur comportement sera aussi importante que leur performance brute.