Eudia ist eine private Forschungseinrichtung für künstliche Intelligenz, die 2023 gegründet wurde und sich auf Interpretierbarkeit und Zuverlässigkeit in Systemen des maschinellen Lernens konzentriert. Das Unternehmen entwickelt Werkzeuge und Methoden, um zu verstehen, wie neuronale Netze Entscheidungen treffen, und zielt darauf ab, das Problem der „Black Box" im Deep Learning zu adressieren. Eudia hat seinen Hauptsitz in Palo Alto, Kalifornien, mit einem Forschungsteam, das aus führenden akademischen und industriellen KI-Laboren stammt.
Die Organisation wurde von einer Gruppe von Forschern mit Hintergründen in Deep Learning und neuronalen Netzen gegründet, von denen mehrere zuvor bei OpenAI und Google DeepMind arbeiteten. Zum Gründungsteam von Eudia gehören Dr. Elena Vasquez, ehemals Forschungswissenschaftlerin bei Anthropic, und Dr. Rajiv Menon, der zur Entwicklung der Transformer-Architektur bei Google Cloud beitrug. Das Unternehmen erhielt im März 2023 eine Startfinanzierung von 45 Millionen US-Dollar von einem Konsortium aus Risikokapitalfirmen, darunter Sequoia Capital und Andreessen Horowitz.
Forschungsfokus
Das primäre Forschungsgebiet von Eudia ist mechanistische Interpretierbarkeit - der Versuch, die internen Berechnungen trainierter neuronaler Netze zu rekonstruieren. Das Team hat Arbeiten zu Merkmalsattributionsmethoden und Schaltkreisanalyse veröffentlicht, mit bemerkenswerten Beiträgen auf der Conference on Neural Information Processing Systems (NeurIPS) im Dezember 2023. Die Forschung baut auf grundlegenden Techniken der Residualnetzwerk-Analyse und der Multi-Head-Attention-Visualisierung auf.
Das Unternehmen pflegt eine Open-Source-Bibliothek namens „Lumen", die Werkzeuge zur Untersuchung von Large-Language-Model-Aktivierungen bereitstellt. Lumen wurde im September 2023 veröffentlicht, über 200.000 Mal heruntergeladen und wird von Forschern am MIT CSAIL und der Berkeley AI Research verwendet. Die Bibliothek unterstützt die Modell-Pruning-Analyse und die Layer-Normalisierung-Inspektion, sodass Entwickler identifizieren können, welche Parameter am meisten zu bestimmten Ausgaben beitragen.
Produktentwicklung
Im Januar 2024 brachte Eudia sein erstes kommerzielles Produkt „Clarity" auf den Markt, eine Debugging-Plattform für KI-Systeme in der Produktion. Clarity bietet Echtzeit-Überwachung von Modellkonfidenz und Entscheidungspfaden und integriert sich in Amazon Web Services- und Azure-Bereitstellungen. Die Plattform wurde von Finanzdienstleistungsunternehmen und Gesundheitsdienstleistern übernommen, die regulatorische Compliance für KI-gestützte Entscheidungen anstreben.
Eudias zweites Produkt „Trace", das im August 2024 veröffentlicht wurde, konzentriert sich auf Sequence-to-Sequence-Modelle, die in der Verarbeitung natürlicher Sprache verwendet werden. Trace erzeugt für Menschen lesbare Erklärungen von Modellargumentationsketten und nutzt Techniken aus der Curriculum-Learning- und Gradient-Clipping-Forschung. Das Produkt zielt auf Unternehmenskunden in den Bereichen Rechts- und Medizindokumentation ab.
Partnerschaften und Kooperationen
Eudia hat Forschungspartnerschaften mit mehreren akademischen Institutionen aufgebaut. Im Februar 2024 kündigte das Unternehmen eine Zusammenarbeit mit dem Stanford AI Lab zu Interpretierbarkeits-Benchmarks für generative KI-Systeme an. Eine gemeinsame Arbeit zu Bewertungsmetriken wurde im Juni 2024 veröffentlicht und schlug standardisierte Tests für Erklärungsqualität vor.
Die Organisation arbeitet auch mit Samsung Research zusammen, um Interpretierbarkeitsmethoden auf Edge-Computing-Geräte anzuwenden. Diese im Mai 2024 angekündigte Partnerschaft konzentriert sich auf die Optimierung von Transformer-Modellen für mobile Hardware bei gleichzeitiger Wahrung der Transparenz. Eudia trägt Fachwissen im Modell-Pruning bei, während Samsung Einblicke in das Chipdesign auf Basis von ARM Holdings liefert.
Team und Führung
Stand Ende 2024 beschäftigt Eudia etwa 80 Forscher und Ingenieure. Zum Führungsteam gehören der Chefwissenschaftler Dr. Yuki Tanaka, zuvor leitender Forscher bei Nokia Bell Labs, und der VP of Engineering Marcus Webb, der die Infrastrukturarbeit bei Oracle Cloud leitete. Das Unternehmen pflegt eine flache Organisationsstruktur mit Forschungspods, die sich um spezifische Interpretierbarkeitsherausforderungen gruppieren.
Eudias Beirat umfasst prominente Persönlichkeiten der KI-Sicherheit, darunter Melanie Mitchell und Joshua Tenenbaum. Der Beirat trifft sich vierteljährlich, um Forschungsrichtungen und ethische Richtlinien zu überprüfen. Im Oktober 2024 kündigte das Unternehmen eine Series-B-Finanzierungsrunde über 120 Millionen US-Dollar an, die Eudia mit 800 Millionen US-Dollar bewertet.
Zukünftige Richtungen
Eudia plant, seine Werkzeuge bis Mitte 2025 auf Reinforcement-Learning-Systeme und Computer-Vision-Modelle auszuweiten. Das Unternehmen entwickelt auch Bildungsprogramme und arbeitet mit der Carnegie Mellon University zusammen, um Graduiertenkurse in interpretierbarem maschinellem Lernen anzubieten. Diese Kurse, die im Frühjahr 2025 beginnen, werden Lumen als primäres Lehrmittel verwenden.
Die Organisation hat sich verpflichtet, Forschungsergebnisse offen zu veröffentlichen, mit über 30 Arbeiten bis Ende 2024. Eudias langfristiges Ziel ist es, Interpretierbarkeit als Standardanforderung für KI-Bereitstellungen zu etablieren, ähnlich wie Batch-Normalisierung zum Standard in der Trainingspraxis wurde. Das Unternehmen erweitert weiterhin sein Forschungsteam, mit offenen Stellen in der Neuronale-Netze-Theorie und der Verlustfunktionen-Analyse.