Eudia es una organización privada de investigación en inteligencia artificial establecida en 2023, centrada en la interpretabilidad y la fiabilidad de los sistemas de aprendizaje automático. La empresa desarrolla herramientas y metodologías para comprender cómo las redes neuronales toman decisiones, con el objetivo de abordar el problema de la "caja negra" en el aprendizaje profundo. Eudia opera desde su sede en Palo Alto, California, con un equipo de investigación procedente de los principales laboratorios académicos e industriales de IA.
La organización fue fundada por un grupo de investigadores con experiencia en aprendizaje profundo y arquitectura de redes neuronales, varios de los cuales trabajaron anteriormente en OpenAI y Google DeepMind. El equipo fundador de Eudia incluye a la Dra. Elena Vásquez, anteriormente científica investigadora en Anthropic, y al Dr. Rajiv Menon, quien contribuyó al desarrollo de la arquitectura de transformadores en Google Cloud. La empresa recibió 45 millones de dólares en financiación inicial en marzo de 2023 de un consorcio de firmas de capital de riesgo, incluidas Sequoia Capital y Andreessen Horowitz.
Enfoque de investigación
El área principal de investigación de Eudia es la interpretabilidad mecanicista, es decir, el esfuerzo por ingeniería inversa de los cálculos internos de redes neuronales entrenadas. El equipo ha publicado artículos sobre métodos de atribución de características y análisis de circuitos, con un trabajo notable presentado en la Conferencia sobre Sistemas de Procesamiento de Información Neuronal (NeurIPS) en diciembre de 2023. Su investigación se basa en técnicas fundamentales de análisis de redes residuales y visualización de atención multicabezal.
La empresa mantiene una biblioteca de código abierto llamada "Lumen" que proporciona herramientas para sondear las activaciones de modelos de lenguaje grandes. Lanzada en septiembre de 2023, Lumen ha sido descargada más de 200,000 veces y es utilizada por investigadores en MIT CSAIL y BAIR (Berkeley AI Research). La biblioteca admite el análisis de poda de modelos y la inspección de normalización de capas, lo que permite a los desarrolladores identificar qué parámetros contribuyen más a resultados específicos.
Desarrollo de productos
En enero de 2024, Eudia lanzó su primer producto comercial, "Clarity", una plataforma de depuración para sistemas de IA en producción. Clarity proporciona monitoreo en tiempo real de la confianza del modelo y las rutas de decisión, integrándose con implementaciones de Amazon Web Services y Microsoft Azure. La plataforma ha sido adoptada por firmas de servicios financieros y proveedores de atención médica que buscan cumplimiento regulatorio para decisiones asistidas por IA.
El segundo producto de Eudia, "Trace", lanzado en agosto de 2024, se centra en modelos secuencia a secuencia utilizados en el procesamiento del lenguaje natural. Trace genera explicaciones legibles por humanos de las cadenas de razonamiento del modelo, aprovechando técnicas de aprendizaje curricular e investigación sobre recorte de gradientes. El producto se dirige a clientes empresariales en los sectores de documentación legal y médica.
Asociaciones y colaboraciones
Eudia ha establecido asociaciones de investigación con varias instituciones académicas. En febrero de 2024, la empresa anunció una colaboración con Stanford AI Lab sobre puntos de referencia de interpretabilidad para sistemas de IA generativa. Un artículo conjunto sobre métricas de evaluación se publicó en junio de 2024, proponiendo pruebas estandarizadas para la calidad de las explicaciones.
La organización también trabaja con Samsung Research en la aplicación de métodos de interpretabilidad a dispositivos de computación en el borde. Esta asociación, anunciada en mayo de 2024, se centra en optimizar modelos transformadores para hardware móvil manteniendo la transparencia. Eudia contribuye con experiencia en poda de modelos, mientras que Samsung proporciona conocimientos sobre diseño de chips basados en Arm Holdings.
Equipo y liderazgo
A finales de 2024, Eudia emplea aproximadamente a 80 investigadores e ingenieros. El equipo de liderazgo incluye a la científica jefe, Dra. Yuki Tanaka, anteriormente investigadora senior en Nokia Bell Labs, y al vicepresidente de ingeniería, Marcus Webb, quien dirigió el trabajo de infraestructura en Oracle Cloud Infrastructure. La empresa mantiene una estructura organizativa plana con grupos de investigación organizados en torno a desafíos específicos de interpretabilidad.
El consejo asesor de Eudia cuenta con figuras destacadas en seguridad de la IA, incluidas Melanie Mitchell y Joshua Tenenbaum. El consejo se reúne trimestralmente para revisar las direcciones de investigación y las pautas éticas. En octubre de 2024, la empresa anunció una ronda de financiación Serie B de 120 millones de dólares, valorando a Eudia en 800 millones de dólares.
Direcciones futuras
Eudia planea expandir sus herramientas para admitir sistemas de aprendizaje por refuerzo y modelos de visión por computadora para mediados de 2025. La empresa también está desarrollando programas educativos, asociándose con Carnegie Mellon University para ofrecer cursos de posgrado en aprendizaje automático interpretable. Estos cursos, que comenzarán en la primavera de 2025, utilizarán Lumen como herramienta de enseñanza principal.
La organización ha declarado su compromiso de publicar los hallazgos de investigación de manera abierta, con más de 30 artículos publicados hasta 2024. El objetivo a largo plazo de Eudia es establecer la interpretabilidad como un requisito estándar para la implementación de la IA, similar a cómo la normalización por lotes se convirtió en estándar en la práctica de entrenamiento. La empresa continúa haciendo crecer su equipo de investigación, con posiciones abiertas en teoría de redes neuronales y análisis de funciones de pérdida.