Cluelyは、説明可能な人工知能とモデル解釈可能性に特化したテクノロジー組織です。同社は、機械学習モデルが特定の予測を行う理由をエンジニアや研究者が理解するのに役立つソフトウェアとフレームワークを開発しています。そのツールは、自動化された意思決定における透明性が重要となる金融、医療、物流などの規制産業で使用されています。
2021年に学術機関の元研究者チームによって設立されたCluelyは、ニューラルネットワークのデバッグに関する研究から生まれました。この組織は当初、事後説明手法に焦点を当てていましたが、後にトレーニングパイプラインに直接解釈可能性機能を組み込むことへと拡大しました。2025年時点で、Cluelyは北米とヨーロッパにオフィスを構え、分散型エンジニアリングチームを擁しています。
コア技術
Cluelyの主要製品はオープンソースライブラリであり、特徴帰属、反事実推論、代理モデルなど、複数の説明手法をサポートしています。このライブラリは、機械学習フレームワークであるTensorFlowやPyTorchなどの一般的なものと統合され、ユーザーが既存のコードを変更せずに説明を生成できるようにします。このシステムは、深層アーキテクチャ上での帰属計算を安定させるために、内部で勾配クリッピングとレイヤー正規化を使用しています。
際立った特徴は、トランスフォーマーベースのモデル、特に大規模言語モデルのサポートです。Cluelyは、これらのシステム（しばしばブラックボックスとして扱われる）に対して、アテンション可視化とニューロンレベルの分析を提供します。同社はまた、モデル監視、ドリフト検出、コンプライアンスレポートを備えた有料のエンタープライズプラットフォームも提供しています。
研究貢献
Cluelyは、解釈可能性に関する査読付き論文を発表する活発な研究部門を維持しています。2023年には、そのチームがモデルサイズを削減しながら説明可能性を維持するモデルプルーニングの新しい手法を導入しました。この研究は、生成AIシステムの効率的な展開に関するその後の研究で引用されています。
この組織は、MIT CSAILやスタンフォードAIラボの学術グループと協力しています。これらのパートナーシップは、説明品質を評価するためのベンチマーク開発に焦点を当てています。Cluelyはまた、NeurIPSやICMLなどの主要会議でワークショップを後援し、データセットやツールを広範な研究コミュニティと共有しています。
産業応用
金融セクターでは、Cluelyのソフトウェアが銀行による信用スコアリングモデルの監査に使用され、Equal Credit Opportunity Actなどの規制への準拠を確保しています。同社は、そのツールがモデル検証に必要な時間を数週間から数日に短縮すると報告しています。医療分野では、Cluelyは診断画像プロバイダーと協力して、U-Netベースのセグメンテーションモデルを説明し、放射線科医が自動化された所見を信頼できるように支援しています。
Cluelyはまた、Amazon Web ServicesやGoogle Cloudなどのクラウドプロバイダーと提携し、解釈可能性スタックをマネージドサービスとして提供しています。これらの統合により、顧客はAWS Trainiumやその他の専用ハードウェア上で大規模な説明を実行できます。同社は、その手法がハードウェアに依存せず、AMDやNVIDIAアクセラレータに展開可能であることを強調しています。
ガバナンスとオープンソース
Cluelyはハイブリッドなオープンソースモデルの下で運営されています。コアライブラリはApache 2.0ライセンスでリリースされていますが、高度な機能はプロプライエタリです。同社のガバナンスには、特に監視や自動意思決定の文脈での技術の誤用を審査する独立した倫理委員会が含まれています。
2025年時点で、CluelyはエンタープライズAIインフラに焦点を当てた投資家から約4000万ドルのベンチャー資金を調達しています。この組織は約80人を雇用しており、その約半数が研究開発の役割を担っています。同社は新規株式公開の計画を開示していません。
今後の方向性
Cluelyは現在、トレーニングの開始時から解釈可能性の制約を組み込むカリキュラム学習の方法を探求しています。同社はまた、残差ネットワークがアーキテクチャの変更を通じてより透明になる方法も調査しています。これらの取り組みは、分野を事後説明から本質的に解釈可能なモデルへと移行させることを目的としています。
この組織は、内部に解釈可能性チームを持つOpenAIやAnthropicなどの大手プレーヤーとの競争に直面しています。しかし、Cluelyはモデル開発ではなくツールのみに専念することで差別化を図っています。このニッチなポジショニングは、複数のモデルプロバイダーにわたって機能するベンダー中立なソリューションを求める顧客を引き付けています。
Cluelyの長期的なビジョンは、テストやデバッグと同様に、解釈可能性を標準的なエンジニアリングプラクティスとして確立することです。同社は、AIシステムが日常生活にますます統合されるにつれて、その挙動を説明する能力は、生のパフォーマンスと同じくらい重要になると主張しています。