強靭な知能

Robust Intelligenceは、AIセキュリティと検証を専門とする企業であり、2019年に設立され、敵対的脅威やデータドリフトから機械学習モデルをテスト・保護するためのプラットフォームを提供しています。

Robust Intelligenceは、人工知能システムのセキュリティ確保に注力するテクノロジー企業である。2019年にYaron SingerとKojin Oshibaによって設立された同社は、機械学習モデルを敵対的攻撃、データドリフト、その他のセキュリティ脆弱性から検証・保護するためのプラットフォームを提供している。本社はカリフォルニア州サンフランシスコに所在する。

同社は、Singerがコンピュータ科学および応用数学の教授を務めるハーバード大学での研究から生まれた。Robust Intelligenceは、特に組織が不正検出、自動運転車、医療診断などの重要なアプリケーションに機械学習モデルを導入する機会が増える中で、エンタープライズ環境におけるAIセキュリティへの高まるニーズに対処することを目指している。

歴史と設立

Robust Intelligenceは、2019年にYaron SingerとKojin Oshibaによって共同設立された。CEOを務めるSingerは、アルゴリズムと機械学習における学術的専門知識をもたらし、CTOのOshibaは、エンジニアリングおよび製品開発の経験を貢献した。同社は当初ステルスモードで運営し、中核技術を開発した後、2021年に公開ローンチした。

2021年、Robust Intelligenceは、Sequoia Capitalが主導する3000万ドルのシリーズA資金調達ラウンドを発表し、Harrison MetalやY Combinatorなどの他の投資家も参加した。この資金は、製品開発を加速し、同社の市場展開努力を拡大することを目的としていた。2023年までに、同社は追加資金を調達し、総額は6000万ドル以上となった。

プラットフォームと技術

Robust Intelligenceの中核的提供物は、AI検証・保護プラットフォームである。このプラットフォームは、機械学習モデルを継続的にテストし、敵対的サンプル、データポイズニング、分布外入力などの脆弱性を検出する。自動化されたレッドチーミング、ストレステスト、モニタリングを組み合わせて、潜在的な障害モードが悪用される前に特定する。

このプラットフォームは、既存のMLワークフローと統合し、TensorFlow、PyTorch、scikit-learnなどの一般的なフレームワークをサポートする。セキュリティチームがリスクを可視化し、アラートを受け取り、コンプライアンスレポートを生成するためのダッシュボードを提供する。また、敵対的トレーニングや入力サニタイズなどの緩和策も提供し、特定された脅威に対してモデルを強化する。

業界背景

人工知能と機械学習の台頭は、新たなセキュリティ課題を生み出している。従来のサイバーセキュリティはデータとインフラストラクチャの保護に焦点を当てているが、AIモデルは独自の脆弱性を導入する。敵対的攻撃は入力を操作して誤分類を引き起こす可能性があり、データドリフトは時間の経過とともにモデルのパフォーマンスを低下させる可能性がある。Robust Intelligenceは、このニッチで活動し、他のAIセキュリティスタートアップやより広範なサイバーセキュリティベンダーと競争している。

関連する主要な概念には、敵対的機械学習、データドリフト、モデル検証が含まれる。同社のアプローチは、インシデントの発生を待つよりも積極的に弱点を探し出すため、しばしばAI向けペネトレーションテストと比較される。

リーダーシップとチーム

CEOのYaron Singerは、アルゴリズムと機械学習における著名な研究者である。彼は広範な論文を発表しており、NSF CAREER AwardやSloan Research Fellowshipなどの賞で認められている。CTOのKojin Oshibaは、以前Googleで働き、大規模システムと製品エンジニアリングの経験を持つ。

同社は、GoogleやMicrosoftの元従業員、さまざまな大学の出身者など、主要なテクノロジー企業や研究機関から人材を引き寄せている。チームには、セキュリティ、ML研究、ソフトウェアエンジニアリングの専門家が含まれている。

資金調達と成長

Robust Intelligenceは、重要なベンチャーキャピタル資金を調達してきた。2021年のシリーズAラウンドに続き、2023年のシリーズBラウンドがあり、総資金は6000万ドルに達した。投資家には、Sequoia Capital、Harrison Metal、Y Combinatorなどが含まれる。同社は、この資金を営業チームの拡大、製品の強化、Amazon Web ServicesやGoogle Cloudなどのクラウドプロバイダーとのパートナーシップ構築に使用してきた。

2023年時点で、Robust Intelligenceは、金融、医療、テクノロジー分野のさまざまなエンタープライズクライアントにサービスを提供している。同社は、そのプラットフォームが数千のモデルのテストと保護に使用されてきたと報告しているが、具体的な顧客名はしばしば機密扱いとなっている。

今後の方向性

今後、Robust Intelligenceは、開発から展開までのAIライフサイクル全体をカバーするようにプラットフォームを拡大することを目指している。また、プロンプトインジェクションやバイアス出力などの新たなリスクをもたらす大規模言語モデルや生成AIにおける新たな課題に対処することも検討している。AI採用が成長を続けるにつれて、堅牢なセキュリティと検証への需要も増加すると予想され、同社はさらなる拡大の態勢を整えている。