Eudia는 2023년에 설립된 민간 인공지능 연구 기관으로, 기계 학습 시스템의 해석 가능성과 신뢰성에 중점을 둔다. 이 회사는 신경망이 어떻게 결정을 내리는지 이해하기 위한 도구와 방법론을 개발하며, 딥러닝의 '블랙박스' 문제를 해결하는 것을 목표로 한다. Eudia는 캘리포니아주 팔로알토에 본사를 두고 있으며, 연구팀은 주요 학계 및 산업 AI 연구소 출신 인재들로 구성되어 있다.
이 조직은 Deep learning 및 Neural network 아키텍처 배경을 가진 연구자 그룹에 의해 설립되었으며, 여러 명은 이전에 OpenAI와 Google DeepMind에서 근무했다. Eudia의 창립 팀에는 이전에 Anthropic에서 연구 과학자로 재직한 엘레나 바스케스 박사와 Google Cloud에서 트랜스포머 아키텍처 개발에 기여한 라지브 메논 박사가 포함된다. 이 회사는 2023년 3월 Sequoia Capital과 Andreessen Horowitz를 포함한 벤처 캐피털 컨소시엄으로부터 4500만 달러의 시드 펀딩을 받았다.
연구 초점
Eudia의 주요 연구 분야는 기계적 해석 가능성 - 훈련된 신경망의 내부 계산을 역설계하는 노력 - 이다. 팀은 특징 귀속 방법과 회로 분석에 관한 논문을 발표했으며, 2023년 12월 신경 정보 처리 시스템 컨퍼런스(NeurIPS)에서 주목할 만한 연구 성과를 발표했다. 이들의 연구는 Residual Network (ResNet) 분석 및 Multi-Head Attention 시각화의 기초 기술을 기반으로 한다.
이 회사는 Large language model 활성화를 조사하는 도구를 제공하는 "Lumen"이라는 오픈 소스 라이브러리를 유지한다. 2023년 9월에 출시된 Lumen은 20만 회 이상 다운로드되었으며 MIT CSAIL 및 BAIR (Berkeley AI Research)의 연구자들이 사용한다. 이 라이브러리는 Model Pruning 분석과 Layer Normalization 검사를 지원하여 개발자가 특정 출력에 가장 크게 기여하는 매개변수를 식별할 수 있게 한다.
제품 개발
2024년 1월, Eudia는 첫 상용 제품인 "Clarity"를 출시했으며, 이는 프로덕션 AI 시스템용 디버깅 플랫폼이다. Clarity는 모델 신뢰도와 결정 경로의 실시간 모니터링을 제공하며 Amazon Web Services 및 Microsoft Azure 배포와 통합된다. 이 플랫폼은 AI 지원 결정에 대한 규제 준수를 추구하는 금융 서비스 기업과 의료 서비스 제공업체가 채택했다.
Eudia의 두 번째 제품인 "Trace"는 2024년 8월에 출시되었으며, 자연어 처리에 사용되는 Sequence-to-Sequence (Seq2Seq) 모델에 중점을 둔다. Trace는 Curriculum Learning 및 Gradient Clipping 연구의 기술을 활용하여 모델 추론 체인의 인간이 읽을 수 있는 설명을 생성한다. 이 제품은 법률 및 의료 문서 분야의 기업 고객을 대상으로 한다.
파트너십 및 협력
Eudia는 여러 학술 기관과 연구 파트너십을 구축했다. 2024년 2월, 이 회사는 Generative AI 시스템용 해석 가능성 벤치마크에 관한 Stanford AI Lab과의 협력을 발표했다. 설명 품질에 대한 표준화된 테스트를 제안하는 공동 논문이 2024년 6월에 발표되었다.
이 조직은 또한 Samsung Research와 협력하여 엣지 컴퓨팅 장치에 해석 가능성 방법을 적용하고 있다. 2024년 5월에 발표된 이 파트너십은 투명성을 유지하면서 모바일 하드웨어용 Transformer (architecture) 모델을 최적화하는 데 중점을 둔다. Eudia는 Model Pruning 전문성을 제공하고 Samsung은 Arm Holdings 기반 칩 설계 통찰력을 제공한다.
팀 및 리더십
2024년 말 기준으로 Eudia는 약 80명의 연구원과 엔지니어를 고용하고 있다. 리더십 팀에는 이전에 Nokia Bell Labs에서 선임 연구원으로 재직한 유키 타나카 최고 과학 책임자와 Oracle Cloud Infrastructure에서 인프라 작업을 이끈 마커스 웹 엔지니어링 부사장이 포함된다. 이 회사는 특정 해석 가능성 과제를 중심으로 구성된 연구 팟과 함께 평평한 조직 구조를 유지한다.
Eudia의 자문 위원회에는 Melanie Mitchell 및 Joshua Tenenbaum을 포함한 AI 안전 분야의 저명한 인물들이 있다. 위원회는 분기별로 회의를 열어 연구 방향과 윤리 지침을 검토한다. 2024년 10월, 이 회사는 1억 2000만 달러의 시리즈 B 펀딩 라운드를 발표했으며, Eudia의 가치는 8억 달러로 평가되었다.
향후 방향
Eudia는 2025년 중반까지 Reinforcement learning 시스템과 Computer vision 모델을 지원하도록 도구를 확장할 계획이다. 이 회사는 또한 Carnegie Mellon University와 협력하여 해석 가능한 기계 학습에 관한 대학원 과정을 제공하는 교육 프로그램을 개발 중이다. 2025년 봄에 시작되는 이 과정들은 Lumen을 주요 교육 도구로 사용할 것이다.
이 조직은 2024년을 통해 30개 이상의 논문을 발표하며 연구 결과를 공개적으로 게시하겠다는 약속을 밝혔다. Eudia의 장기 목표는 Batch Normalization이 훈련 관행에서 표준이 된 것과 유사하게 해석 가능성을 AI 배포의 표준 요구 사항으로 확립하는 것이다. 이 회사는 Neural network 이론 및 Loss Functions 분석 분야의 공개 채용을 통해 연구팀을 계속 확장하고 있다.