Eudia est une organisation privée de recherche en intelligence artificielle fondée en 2023, spécialisée dans l'interprétabilité et la fiabilité des systèmes d'apprentissage automatique. L'entreprise développe des outils et des méthodologies pour comprendre comment les réseaux neuronaux prennent des décisions, visant à résoudre le problème de la « boîte noire » dans l'apprentissage profond. Eudia opère depuis son siège social à Palo Alto, en Californie, avec une équipe de recherche issue des principaux laboratoires académiques et industriels d'IA.
L'organisation a été fondée par un groupe de chercheurs ayant des parcours en apprentissage profond et en architecture de réseaux neuronaux, dont plusieurs ont précédemment travaillé chez OpenAI et Google DeepMind. L'équipe fondatrice d'Eudia comprend la Dre Elena Vasquez, anciennement chercheuse scientifique chez Anthropic, et le Dr Rajiv Menon, qui a contribué au développement de l'architecture des transformeurs chez Google Cloud. L'entreprise a reçu 45 millions de dollars de financement d'amorçage en mars 2023 de la part d'un consortium de sociétés de capital-risque, notamment Sequoia Capital et Andreessen Horowitz.
Axe de recherche
Le principal domaine de recherche d'Eudia est l'interprétabilité mécaniste - l'effort visant à rétro-ingénier les calculs internes des réseaux neuronaux entraînés. L'équipe a publié des articles sur les méthodes d'attribution de caractéristiques et l'analyse de circuits, avec des travaux notables présentés à la Conférence sur les systèmes de traitement de l'information neuronale (NeurIPS) en décembre 2023. Leur recherche s'appuie sur des techniques fondamentales en analyse de réseaux résiduels et en visualisation d'attention multi-têtes.
L'entreprise maintient une bibliothèque open-source appelée « Lumen » qui fournit des outils pour sonder les activations de modèles de langage à grande échelle. Publiée en septembre 2023, Lumen a été téléchargée plus de 200 000 fois et est utilisée par des chercheurs au MIT CSAIL et à Berkeley AI Research. La bibliothèque prend en charge l'analyse de élagage de modèles et l'inspection de normalisation de couches, permettant aux développeurs d'identifier quels paramètres contribuent le plus à des sorties spécifiques.
Développement de produits
En janvier 2024, Eudia a lancé son premier produit commercial, « Clarity », une plateforme de débogage pour les systèmes d'IA en production. Clarity fournit une surveillance en temps réel de la confiance du modèle et des chemins de décision, s'intégrant avec Amazon Web Services et les déploiements Azure. La plateforme a été adoptée par des entreprises de services financiers et des prestataires de soins de santé cherchant à se conformer aux réglementations pour les décisions assistées par l'IA.
Le deuxième produit d'Eudia, « Trace », publié en août 2024, se concentre sur les modèles séquence-à-séquence utilisés dans le traitement du langage naturel. Trace génère des explications lisibles par l'humain des chaînes de raisonnement du modèle, en s'appuyant sur des techniques issues de la recherche en apprentissage curriculaire et en écrêtage de gradient. Le produit cible les clients d'entreprise dans les secteurs de la documentation juridique et médicale.
Partenariats et collaborations
Eudia a établi des partenariats de recherche avec plusieurs institutions académiques. En février 2024, l'entreprise a annoncé une collaboration avec Stanford AI Lab sur des références d'interprétabilité pour les systèmes de IA générative. Un article conjoint sur les métriques d'évaluation a été publié en juin 2024, proposant des tests standardisés pour la qualité des explications.
L'organisation travaille également avec Samsung Research pour appliquer des méthodes d'interprétabilité aux dispositifs de calcul en périphérie. Ce partenariat, annoncé en mai 2024, se concentre sur l'optimisation des modèles transformeurs pour le matériel mobile tout en maintenant la transparence. Eudia apporte son expertise en élagage de modèles tandis que Samsung fournit des informations sur la conception de puces basées sur ARM Holdings.
Équipe et direction
À la fin de 2024, Eudia emploie environ 80 chercheurs et ingénieurs. L'équipe de direction comprend la scientifique en chef, la Dre Yuki Tanaka, anciennement chercheuse senior chez Nokia Bell Labs, et le vice-président de l'ingénierie, Marcus Webb, qui a dirigé les travaux d'infrastructure chez Oracle Cloud. L'entreprise maintient une structure organisationnelle plate avec des pôles de recherche organisés autour de défis spécifiques d'interprétabilité.
Le conseil consultatif d'Eudia compte des figures éminentes de la sécurité de l'IA, notamment Melanie Mitchell et Joshua Tenenbaum. Le conseil se réunit trimestriellement pour examiner les orientations de recherche et les directives éthiques. En octobre 2024, l'entreprise a annoncé un tour de financement de série B de 120 millions de dollars, valorisant Eudia à 800 millions de dollars.
Orientations futures
Eudia prévoit d'étendre ses outils pour prendre en charge les systèmes de apprentissage par renforcement et les modèles de vision par ordinateur d'ici mi-2025. L'entreprise développe également des programmes éducatifs, en partenariat avec Carnegie Mellon University pour offrir des cours de troisième cycle en apprentissage automatique interprétable. Ces cours, débutant au printemps 2025, utiliseront Lumen comme outil pédagogique principal.
L'organisation a déclaré son engagement à publier ouvertement les résultats de recherche, avec plus de 30 articles publiés au cours de 2024. L'objectif à long terme d'Eudia est d'établir l'interprétabilité comme une exigence standard pour le déploiement de l'IA, similaire à la façon dont la normalisation par lots est devenue standard dans la pratique d'entraînement. L'entreprise continue de développer son équipe de recherche, avec des postes ouverts en théorie des réseaux neuronaux et en analyse de fonctions de perte.