Fiddler AIは、本番環境における機械学習モデルの監視、説明、分析を目的とした機械学習運用（MLOps）プラットフォームを提供するソフトウェア企業である。2018年に設立された同社は、機械学習システムを導入する企業向けに、モデルガバナンス、バイアス検出、運用の透明性といった課題への対応に注力している。このプラットフォームは、データサイエンスチームやエンジニアリングチームが、AIモデルが意図したとおりに動作し、規制要件を遵守し、長期間にわたって性能を維持することを確保するために使用されている。
同社は、モデル開発を超えたツール、すなわちAI導入における「ラストマイル」に対応するツールへのニーズの高まりから生まれた。Fiddler AIの中核となる提供内容には、リアルタイムのモデル監視、説明可能なAI（XAI）機能、バイアス軽減機能が含まれる。従来の統計モデルから複雑な深層学習や大規模言語モデルのアーキテクチャまで、幅広いモデルタイプをサポートしており、さまざまな業界のアプリケーションに応用できる汎用性を備えている。
歴史と設立
Fiddler AIは、Facebook（現Meta）の元エンジニアリングマネージャーであるKrishna Gadeと、MicrosoftおよびFacebookの元プロダクトマネージャーであるAmit Pakaによって2018年に設立された。同社は当初、スタンフォードAIラボのエコシステム内でインキュベートされ、解釈可能な機械学習に関する学術研究を活用していた。「Fiddler」という社名は、ミュージシャンが楽器を調律するかのようにモデルを「いじる」というアイデアに着想を得たもので、AIの動作を微調整し理解することに焦点を当てたプラットフォームの姿勢を反映している。
同社は、2019年にLightspeed Venture Partnersが主導する1,000万ドルのシリーズAラウンドを皮切りに、2021年には3,500万ドルのシリーズBラウンドなど、多額のベンチャーキャピタル資金を調達した。2022年までにFiddler AIは、金融サービス、ヘルスケア、小売などの分野に顧客基盤を拡大し、大手銀行や保険会社を含む注目すべき顧客を獲得した。2023年には、生成AIモデルのサポートを統合し、人工知能システムへの業界のシフトを反映して、同社は成長を続けた。
中核となるプラットフォーム機能
Fiddler AIのプラットフォームは、監視、説明可能性、分析という3つの主要な柱を中心に構築されている。監視コンポーネントは、精度、ドリフト、データ品質などのモデル性能指標のリアルタイム追跡を提供する。予測分布や入力データパターンの急激な変化など、モデルの劣化やコンセプトドリフトを示す可能性のある異常をチームに警告する。
説明可能性モジュールは、グローバルな説明とローカルな説明の両方を提供する。グローバルな説明は、どの特徴がモデルの予測全体に最も影響を与えているかをユーザーが理解するのに役立ち、ローカルな説明は個々の予測に対する洞察を提供する。これは、プラットフォームに統合されているSHAP（SHapley Additive exPlanations）値やLIME（Local Interpretable Model-agnostic Explanations）などの技術を通じて達成される。これらのツールは、特に厳格な監査要件に準拠するセクターにおいて、規制遵守に不可欠である。
さらに、Fiddler AIにはバイアス検出および公平性分析ツールが含まれている。これにより、組織は人種、性別、年齢などの機密属性に関連するバイアスを特定し軽減することができ、モデルが差別的な結果を永続化させないことを確保できる。プラットフォームはモデルの比較とA/Bテストもサポートしており、チームはデプロイ前に新しいバージョンを評価できる。
技術と統合
Fiddler AIはモデル非依存型として設計されており、TensorFlow、PyTorch、scikit-learnなどの基盤となるフレームワークに関係なく、あらゆる機械学習モデルで動作する。クラウドとオンプレミスの両方のデプロイをサポートし、Amazon Web Services、Azure、Google Cloudなどの主要なクラウドプロバイダーとの統合を備えている。この柔軟性により、企業は既存のインフラストラクチャを中断することなくプラットフォームを採用できる。
プラットフォームは、モデルとともにデプロイできる軽量エージェントを使用して推論データをキャプチャする。このデータはFiddlerのバックエンドにストリーミングされ、監視と分析のために処理される。システムはバッチおよびリアルタイムのデータパイプラインをサポートしており、ストリーミングアプリケーションと従来のバッチ処理環境の両方に適している。
大規模言語モデルアプリケーション向けに、Fiddler AIはプロンプト監視や応答品質評価などの専門機能を提供する。これには、幻覚率、有害性、安全性ガイドラインの順守の追跡が含まれ、本番環境のLLMデプロイにとって重要である。プラットフォームはOpenAIおよびAnthropicのAPIとも統合されており、チームはサードパーティモデルの使用状況を監視できる。
業界アプリケーションとユースケース
Fiddler AIは多様な業界にサービスを提供している。金融サービスでは、信用スコアリング、不正検出、マネーロンダリング防止（AML）コンプライアンスにプラットフォームが使用されている。銀行は、Equal Credit Opportunity Actなどの規制で要求されるローン拒否の理由を顧客に提供するために、説明可能性機能を活用している。ヘルスケアでは、Fiddler AIは患者の再入院や診断の予測モデルを監視し、臨床意思決定支援における正確性と公平性を確保するのに役立っている。
小売セクターでは、需要予測やパーソナライズされたレコメンデーションシステムにプラットフォームが適用されている。モデルのドリフトを監視することで、小売業者は変化する消費者行動に適応できる。さらに、Fiddler AIは製造業の予知保全にも使用されており、センサーデータと機器故障の予測を追跡して、ダウンタイムと運用コストを削減している。
プラットフォームはまた、MLOpsチームが堅牢なガバナンスフレームワークを確立することをサポートする。監査証跡と文書化機能を提供し、組織が内部ポリシーや、EUの一般データ保護規則（GDPR）や提案されているAI法などの外部規制を満たすのに役立つ。これにより、Fiddler AIは責任あるAI運動における主要なプレーヤーとして位置づけられている。
競争環境と今後の方向性
Fiddler AIは、Arize AI、WhyLabs、DataRobotなどの他のMLOpsおよびモデル監視ベンダーを含む競争の激しい市場で事業を展開している。同社の差別化要因は、競合プラットフォームでは二次的な機能であることが多い説明可能性とバイアス検出への強い焦点にある。同社はまた、統合の容易さと、新興の生成AIワークロードを含む幅広いモデルタイプのサポートを重視している。
今後、Fiddler AIは自動モデル修復の機能を拡大することを目指しており、プラットフォームは問題を検出するだけでなく、是正措置を提案または実装することも可能になる。同社はまた、モデルの動作に対するより深い洞察を提供できる因果推論と反事実的説明に関する研究にも投資している。2024年現在、Fiddler AIは進化を続けており、オンデバイスモデルとエッジコンピューティング環境のサポート強化を含むロードマップを備えている。
結論
Fiddler AIは、機械学習モデルの監視、説明、ガバナンスのための必須ツールを提供し、MLOps分野における重要なプレーヤーとしての地位を確立している。透明性と公平性への焦点は、AI導入の増加と規制上の監視が強化される時代における重要なニーズに対応している。幅広いモデルをサポートし、主要なクラウドプラットフォームと統合することで、Fiddler AIは責任を持ってAIを導入しようとする企業に包括的なソリューションを提供する。人工知能の分野が進歩し続けるにつれて、Fiddler AIのようなプラットフォームは、AIシステムが信頼でき、人間の価値観に沿ったものであることを確保する上で重要な役割を果たすだろう。