Eudia é uma organização privada de pesquisa em inteligência artificial, estabelecida em 2023, com foco em interpretabilidade e confiabilidade em sistemas de aprendizado de máquina. A empresa desenvolve ferramentas e metodologias para entender como redes neurais tomam decisões, visando abordar o problema da "caixa preta" no aprendizado profundo. A Eudia opera a partir de sua sede em Palo Alto, Califórnia, com uma equipe de pesquisa oriunda dos principais laboratórios acadêmicos e industriais de IA.
A organização foi fundada por um grupo de pesquisadores com formação em aprendizado profundo e redes neurais, vários dos quais trabalharam anteriormente na OpenAI e na Google DeepMind. A equipe fundadora da Eudia inclui a Dra. Elena Vasquez, ex-cientista de pesquisa na Anthropic, e o Dr. Rajiv Menon, que contribuiu para o desenvolvimento da arquitetura de transformadores na Google Cloud. A empresa recebeu US$ 45 milhões em financiamento inicial em março de 2023, de um consórcio de empresas de capital de risco, incluindo Sequoia Capital e Andreessen Horowitz.
Foco em Pesquisa
A principal área de pesquisa da Eudia é a interpretabilidade mecânica - o esforço de engenharia reversa das computações internas de redes neurais treinadas. A equipe publicou artigos sobre métodos de atribuição de características e análise de circuitos, com trabalho notável apresentado na Conferência sobre Sistemas de Processamento de Informação Neural (NeurIPS) em dezembro de 2023. A pesquisa baseia-se em técnicas fundamentais de análise de rede residual e visualização de atenção multicabeças.
A empresa mantém uma biblioteca de código aberto chamada "Lumen", que oferece ferramentas para sondar as ativações de modelos de linguagem de grande porte. Lançada em setembro de 2023, a Lumen foi baixada mais de 200.000 vezes e é utilizada por pesquisadores do MIT CSAIL e da BAIR (Berkeley AI Research). A biblioteca suporta análise de poda de modelo e inspeção de normalização de camadas, permitindo que os desenvolvedores identifiquem quais parâmetros contribuem mais para saídas específicas.
Desenvolvimento de Produtos
Em janeiro de 2024, a Eudia lançou seu primeiro produto comercial, "Clarity", uma plataforma de depuração para sistemas de IA em produção. A Clarity fornece monitoramento em tempo real da confiança do modelo e dos caminhos de decisão, integrando-se a implantações na Amazon Web Services e no Microsoft Azure. A plataforma foi adotada por empresas de serviços financeiros e provedores de saúde que buscamconformidade regulatória para decisões assistidas por IA.
O segundo produto da Eudia, "Trace", lançado em agosto de 2024, foca em modelos de sequência-a-sequência usados em processamento de linguagem natural. O Trace gera explicações em linguagem legível por humanos das cadeias de raciocínio do modelo, valendo-se de técnicas de aprendizado fundamento e pesquisa de recorte de gradiente. O produto visa clientes empresariaidores nos setores juridico e de documentação médica.
Parcerias e Colaborações
A Eudia estabeleceu parcerias de pesquisa com várias instituições acadêmicas. Em fevereiro de 2024, a empresa anunciou uma colaboração com Stanford AI Lab sobre benchmarks de interpretabilidade para sistemas de IA generativa. Um artigo conjunto sobre métricas de avaliação foi publicado em junho de 2024, propondo testes padrões para a qualidade das fundamentações.
A organização também trava com Samsung Research para aplicar métodos de interpretabilidade em dispositivos de computação de borda. Esta parceria, anunciada em maio de 2024, foca na otimização de modelos de transformador para hardware móvel mantendo-se a transparência. A Eudia contribui com expertise em poda de modelo, enquanto a Samsung fornece insights de design de chip baseados em Arm Holdings.
Equipe e Liderança
Em fins de 2024, a Eudia emprega cerca de 80 pesquisadores e engenheiros. A equipe de liderança inclui a Cientista Chefe Dra. Yuki Tanaka, antes pesquisadora sênior na Nokia Bell Labs, e o VP de Engenharia Marcus Webb, que liderou o trabalho entral na infrastrutura na Oracle Cloud Infrastructure. A empresa mantém uma estrutura organizacional fluida, com com grupos de pesquisa organizados em torno de desafios de interpretabilidade específicos.
O conselho consultivo da Eudia inclui figuras proeminentes na segurança da IA, tanto como Melanie Mitchell quanto como Joshua Tenenbaum. O conselho reúne-se trimestralmente para rever direções de pesquisa e diretrizes éticas. Em outubro de 2024, a empresa anunciou uma de financiamento Série B de US$ 120 milhões, avaliando a Eudia em US$ 800 milhões.
Direções Futuras
A Eudia planeia expandir suas ferramentas para sistemas de aprendizado por reforço e modelos de visão computacional, utilizando o típico até meados de 2025. A empresa também está desenvolvendo programas educacionais, em parceria com a Universidade Carnegie Mellon, para oferecer cursos de pós-graduação em aprendizado de máquina interpretável. Estes cursos, que começarão na primavera de 2025, usarão a Lumen como ferramenta principal.
A organização declarou seu compromisso em publicar abertamente os resultados de pesquisa, com mais de 30 artigos lançados ao longo de 2024. O objetivo objetivo de número da Eudia é estabelecer a interpretabilidade como requisito padrão para a implantação de IA, de modo semelhante a como normalização de batelada se tornou padrão na prática do treinamento. A empresa continua a expandir sua equipe de pesquisa, com posições abertas em teoria de red das neurais e análise de funções de perda.