Eudia是一家成立于2023年的私人人工智能研究组织，专注于机器学习系统的可解释性和可靠性。该公司开发工具和方法论，以理解神经网络如何做出决策，旨在解决深度学习中的“黑箱”问题。Eudia总部位于加利福尼亚州帕洛阿尔托，其研究团队来自领先的学术和工业AI实验室。
该组织由一群具有深度学习和神经网络架构背景的研究人员创立，其中数人曾在OpenAI和Google DeepMind工作。Eudia的创始团队包括前Anthropic研究科学家Elena Vasquez博士，以及曾在Google Cloud参与Transformer架构开发的Rajiv Menon博士。公司于2023年3月从包括红杉资本和Andreessen Horowitz在内的风险投资财团获得了4500万美元的种子资金。
研究重点
Eudia的主要研究领域是机制可解释性，即逆向工程已训练神经网络内部计算的工作。该团队已发表关于特征归因方法和电路分析的论文，其中 notable 工作于2023年12月出现在神经信息处理系统会议（NeurIPS）上。他们的研究建立在残差网络分析和多头注意力可视化的基础技术之上。
公司维护一个名为“Lumen”的开源库，提供探测大型语言模型激活的工具。Lumen于2023年9月发布，已被下载超过20万次，并被MIT CSAIL和伯克利AI研究的研究人员使用。该库支持模型剪枝分析和层归一化检查，使开发者能够识别哪些参数对特定输出贡献最大。
产品开发
2024年1月，Eudia推出了其首款商业产品“Clarity”，一个用于生产AI系统的调试平台。Clarity提供模型置信度和决策路径的实时监控，并与Amazon Web Services和Azure部署集成。该平台已被金融服务公司和医疗保健提供商采用，以满足AI辅助决策的监管合规要求。
Eudia的第二款产品“Trace”于2024年8月发布，专注于用于自然语言处理的序列到序列模型。Trace生成模型推理链的人类可读解释，利用课程学习和梯度裁剪研究的技术。该产品面向法律和医疗文档领域的企业客户。
合作伙伴与协作
Eudia已与多所学术机构建立了研究合作伙伴关系。2024年2月，公司宣布与斯坦福AI实验室在生成式AI系统的可解释性基准方面进行合作。一篇关于评估指标的联合论文于2024年6月发表，提出了解释质量的标准化测试。
该组织还与三星研究院合作，将可解释性方法应用于边缘计算设备。这项于2024年5月宣布的合作，专注于优化移动硬件上的Transformer模型，同时保持透明度。Eudia贡献模型剪枝方面的专业知识，而三星则提供基于ARM Holdings的芯片设计见解。
团队与领导层
截至2024年底，Eudia雇佣约80名研究人员和工程师。领导团队包括首席科学家Yuki Tanaka博士，前诺基亚贝尔实验室高级研究员，以及工程副总裁Marcus Webb，曾在Oracle Cloud领导基础设施工作。公司保持扁平化组织结构，研究小组围绕特定的可解释性挑战组织。
Eudia的顾问委员会包括AI安全领域的知名人物，如Melanie Mitchell和Joshua Tenenbaum。委员会每季度召开会议，审查研究方向和伦理指南。2024年10月，公司宣布了1.2亿美元的B轮融资，估值达8亿美元。
未来方向
Eudia计划到2025年中期将其工具扩展到支持强化学习系统和计算机视觉模型。公司还在开发教育项目，与卡内基梅隆大学合作提供可解释机器学习的研究生课程。这些课程将于2025年春季开始，使用Lumen作为主要教学工具。
该组织已承诺公开其研究结果，截至2024年已发布超过30篇论文。Eudia的长期目标是使可解释性成为AI部署的标准要求，类似于批归一化在训练实践中成为标准。公司继续扩大其研究团队，在神经网络理论和损失函数分析方面有开放职位。