Eudiaは、2023年に設立された民間の人工知能研究組織であり、機械学習システムにおける解釈可能性と信頼性に焦点を当てている。同社は、ニューラルネットワークがどのように意思決定を行うかを理解するためのツールと方法論を開発し、深層学習における「ブラックボックス」問題への対処を目指している。Eudiaはカリフォルニア州パロアルトに本社を置き、主要な学術機関や産業界のAI研究所から集まった研究チームを擁している。
この組織は、深層学習とニューラルネットワークアーキテクチャの背景を持つ研究者グループによって設立され、そのうち数名は以前OpenAIやGoogle DeepMindで働いていた。Eudiaの創設チームには、元Anthropicの研究科学者であるエレナ・バスケス博士と、Google Cloudでトランスフォーマーアーキテクチャの開発に貢献したラジブ・メノン博士が含まれている。同社は2023年3月に、Sequoia CapitalやAndreessen Horowitzを含むベンチャーキャピタル企業のコンソーシアムから4500万ドルのシード資金を受け取った。
研究の焦点
Eudiaの主要な研究分野は、機構的解釈可能性、つまり訓練済みニューラルネットワークの内部計算をリバースエンジニアリングする取り組みである。チームは特徴帰属法と回路分析に関する論文を発表しており、2023年12月の神経情報処理システム会議（NeurIPS）で注目すべき成果を発表している。彼らの研究は、残差ネットワーク分析とマルチヘッドアテンション可視化の基礎技術に基づいている。
同社は「Lumen」と呼ばれるオープンソースライブラリを維持しており、大規模言語モデルの活性化を調査するためのツールを提供している。2023年9月にリリースされたLumenは、20万回以上ダウンロードされ、MIT CSAILやバークレーAI研究の研究者によって使用されている。このライブラリはモデル枝刈り分析と層正規化検査をサポートし、開発者が特定の出力に最も寄与するパラメータを特定できるようにしている。
製品開発
2024年1月、Eudiaは最初の商用製品「Clarity」を発表した。これは本番AIシステム向けのデバッグプラットフォームである。Clarityはモデルの信頼度と意思決定経路のリアルタイム監視を提供し、Amazon Web ServicesとAzureのデプロイメントと統合している。このプラットフォームは、AI支援による意思決定の規制遵守を求める金融サービス企業や医療提供者に採用されている。
Eudiaの2番目の製品「Trace」は2024年8月にリリースされ、自然言語処理で使用されるシーケンス・ツー・シーケンスモデルに焦点を当てている。Traceは、カリキュラム学習と勾配クリッピング研究の技術を活用して、モデルの推論チェーンの人間が読める説明を生成する。この製品は、法務および医療文書分野のエンタープライズ顧客を対象としている。
パートナーシップと協力
Eudiaはいくつかの学術機関と研究パートナーシップを確立している。2024年2月、同社はスタンフォードAIラボと生成AIシステムの解釈可能性ベンチマークに関する協力を発表した。評価指標に関する共同論文は2024年6月に発表され、説明品質の標準化テストを提案している。
この組織はまた、Samsung Researchとエッジコンピューティングデバイスへの解釈可能性手法の適用について協力している。2024年5月に発表されたこのパートナーシップは、透明性を維持しながらモバイルハードウェア向けにトランスフォーマーモデルを最適化することに焦点を当てている。Eudiaはモデル枝刈りの専門知識を提供し、SamsungはARM Holdingsベースのチップ設計に関する洞察を提供している。
チームとリーダーシップ
2024年後半時点で、Eudiaは約80人の研究者とエンジニアを雇用している。リーダーシップチームには、元Nokia Bell Labsの上級研究者である主任科学者ユキ・タナカ博士と、Oracle Cloudでインフラストラクチャ作業を主導したエンジニアリング担当副社長マーカス・ウェッブが含まれている。同社は、特定の解釈可能性の課題を中心に組織された研究ポッドを備えたフラットな組織構造を維持している。
Eudiaの諮問委員会には、メラニー・ミッチェルやジョシュア・テネンバウムなど、AI安全性の著名人が名を連ねている。委員会は四半期ごとに会合を開き、研究方向と倫理ガイドラインを審査している。2024年10月、同社は1億2000万ドルのシリーズB資金調達ラウンドを発表し、Eudiaの評価額は8億ドルとなった。
今後の方向性
Eudiaは、2025年半ばまでに強化学習システムとコンピュータビジョンモデルをサポートするようにツールを拡張する計画である。同社はまた、カーネギーメロン大学と提携して解釈可能な機械学習の大学院コースを提供するなど、教育プログラムの開発も進めている。2025年春に開始されるこれらのコースでは、Lumenを主要な教育ツールとして使用する。
この組織は研究結果を公開するというコミットメントを表明しており、2024年を通じて30以上の論文を発表している。Eudiaの長期的な目標は、バッチ正規化がトレーニング実践で標準となったように、解釈可能性をAI展開の標準要件として確立することである。同社は研究チームを拡大し続けており、ニューラルネットワーク理論と損失関数分析のポジションを募集している。