TruEraは、人工知能の品質と説明可能性のプラットフォームを開発するソフトウェア企業である。このプラットフォームは、開発から本番運用までの機械学習モデルのライフサイクル全体を通じて、組織がモデルを診断、監視、説明するのを支援するように設計されている。モデル検証、デバッグ、およびガバナンスのためのツールを提供し、モデルのパフォーマンス、公平性、および規制順守に関連する課題に対処することを目的としている。
同社は2019年に、機械学習、エンタープライズソフトウェア、およびデータサイエンスの経歴を持つチームによって設立された。TruEraのプラットフォームは、データサイエンスおよび機械学習チームがモデルの挙動に関する洞察を得て、データドリフトやバイアスなどの潜在的な問題を特定し、モデルが意図通りに動作することを保証するために使用されている。このプラットフォームは、従来の機械学習モデルやより複雑な深層学習モデルなど、さまざまなモデルタイプをサポートしている。
中核機能
TruEraのプラットフォームは、AI品質管理のためのいくつかの主要な機能を提供する。その主な機能の1つはモデル診断であり、ユーザーがデータのさまざまなセグメントにわたってモデルのパフォーマンスを分析できるようにする。これには、モデルがパフォーマンス不足または予期しない動作を示している箇所の特定が含まれる。プラットフォームは、特徴帰属やモデルに依存しない説明などの技術を使用して、モデルが特定の予測を行う理由をユーザーが理解するのに役立つ説明可能性機能を提供する。
もう1つの重要な機能はモデル監視である。TruEraは、本番環境でのモデルの継続的な監視を可能にし、予測ドリフト、データドリフト、および時間の経過に伴うパフォーマンス低下などのメトリクスを追跡する。これにより、組織は問題を早期に検出し、是正措置を講じることができる。プラットフォームには、監査証跡とドキュメントをサポートして規制要件を満たすモデルガバナンスの機能も含まれている。
技術とアプローチ
TruEraの技術は、機械学習と説明可能性研究の基盤の上に構築されている。プラットフォームは、SHAP（SHapley Additive exPlanations）値やその他の特徴帰属手法を含む技術の組み合わせを使用して、モデルの決定に関する洞察を提供する。一般的な機械学習フレームワークやクラウドプラットフォームと連携するように設計されており、Amazon Web Services、Microsoft Azure、およびGoogle Cloudなどのツールと統合する。
同社は、従来の開発におけるソフトウェア品質が管理される方法と同様に、AIに対する「品質管理」アプローチを強調している。これには、モデルが定義された標準を満たすことを保証するための継続的なテスト、検証、および監視が含まれる。TruEraのプラットフォームは、組織全体のモデルの健全性に関する一元化されたビューを提供し、データサイエンティスト、エンジニア、およびビジネス関係者間のコラボレーションを可能にすることを目的としている。
市場での位置付けと使用事例
TruEraは、成長を続けるAI可観測性とガバナンスの分野で事業を展開しており、モデル監視および説明可能性ソリューションを提供する他のベンダーと競合している。プラットフォームは、金融サービス、医療、テクノロジーなど、さまざまな業界で使用されている。一般的な使用事例には、クレジットリスクモデリング、不正検出、および顧客離反予測が含まれ、モデルの透明性と信頼性が重要である。
例えば、金融サービスでは、TruEraは機関がクレジット決定の説明を要求する規制を順守するのを支援する。医療では、患者リスク評価に使用されるモデルの検証をサポートする。プラットフォームはまた、Large language modelアプリケーションを展開する組織によっても使用され、幻覚やバイアスなどの問題を監視するのに役立つ。
最近の動向
TruEraは、AIにおける新たな課題に対処するためにプラットフォームを進化させ続けている。同社は、Generative AIおよびLarge language modelの品質に焦点を拡大し、これらのモデルを評価および監視するためのツールを提供している。これには、事実の正確性、安全性、および意図された使用事例との整合性を評価する機能が含まれる。
2023年、TruEraはGenerative AIアプリケーションをサポートするためのプラットフォームの強化を発表し、プロンプトテストとモデル評価の機能を提供した。同社はまた、Wing Venture Capitalなどの投資家から追加資金を調達して成長を支援している。2024年の時点で、TruEraはその提供物を開発し続けており、AI品質と信頼のための包括的なソリューションとして自らを位置付けている。