ImageNet-Aは、2019年にDan Hendrycks、Kevin Zhaoらを含む研究者たちによって導入されたデータセットであり、自然発生する敵対的例に対する機械学習モデルの堅牢性を評価するためのベンチマークとして機能する。合成摂動によって作られた敵対的画像とは異なり、ImageNet-Aは意図的に改変されていないが、多くの標準的な深層学習モデルによって誤分類される実際の写真で構成されている。元のImageNetが1,000のオブジェクトクラスを含むのに対し、ImageNet-Aはそれらのクラスのうち200のみの画像を含み、データセットは現実的な困難なケースに特に焦点を当てて厳選された。
ImageNet-Aの背後にある動機は、多くのモデルが標準的なテストセットでほぼ完璧なスコアを達成する一方で、日常世界の典型的なシーンに似た画像では劇的に失敗するという観察に由来する。ImageNet-Aの画像は、異常な角度、霧、または新しい照明など、さまざまな文脈におけるオブジェクトの自然な写真であり、ImageNet検証セットのクリーンな画像とは異なる。重要な洞察は、これらの画像が意図的で知覚不可能なノイズを含むという意味で敵対的ではないが、実験室条件と実世界展開におけるモデル性能のギャップを露呈するということである。
構築と特徴
ImageNet-Aの作成には、ウェブから画像を収集し、ImageNetのトレーニングセットまたは検証セットの画像との重複を避けるために慎重にフィルタリングすることが含まれた。キュレーターは、人間の評価者に視覚的に認識可能であるが、ResNetやVGGスタイルのアーキテクチャなどのよく知られたモデルを一貫して混乱させる画像を選択した。最終データセットには、元の1,000クラスのうち200にわたる7,500以上の画像が含まれる。難しさを検証するために、著者らは標準的な事前トレーニング済みResNet-50モデルがImageNet-Aで約0.1%のトップ1精度しか達成しないことを報告した。これは、ImageNet検証での約76%の精度とは対照的である。
キュレーションプロセスは反復的であった。最初の候補画像は公開ソースから収集され、次にモデル予測を使用して誤ったクラスに対する高い信頼度を持つものを特定した。その後、人間が各画像が特定のクラスに明確に属し、正しくラベル付けされていることを検証した。この人間参加型アプローチにより、曖昧な画像やモデルが正しく分類した画像が削除されたため、高いラベル品質が確保された。
敵対的堅牢性との関係
このデータセットは、機械学習の堅牢性と人工知能評価の交差点に位置する。これは、自然発生データに見られる分布シフトが、合成敵対的攻撃の小さな摂動と同様にモデルにとって困難であり得ることを示している。「自然敵対的例」という用語は、これらの画像が最適化手法で構築されていないが、トレーニングされたニューラルネットワークに同様の失敗を引き起こすことを強調するために使用される。ImageNet-Aからの観察は、その後の堅牢性研究に影響を与え、ImageNet-C（破損用）やImageNet-R（レンディション用）などのベンチマークの開発を含む。
研究での使用
ImageNet-Aはすぐに、モデルの一般化能力と自然な分布シフトを処理する能力を評価するための標準的なチェックポイントとなった。これは、残差ネットワーク、トランスフォーマー、新しいスケールされたアーキテクチャを含むさまざまなモデルアーキテクチャの評価に使用されてきた。深層学習コミュニティでは、標準的な検証セットでの精度とともにImageNet-Aでのパフォーマンスを報告することが一般的であり、クリーンな画像に過適合していないモデルを特定する方法として機能する。
標準的なモデル評価を超えて、このデータセットは誤分類の原因を研究するための基盤として機能する。例えば、データ拡張技術の特性が分布外パフォーマンスにどのように影響するかを調査し、カリキュラム学習戦略でモデルをトレーニングしてそのような失敗を軽減するために使用されてきた。さらに、より大きなデータセットやより自己教師ありの方法でトレーニングされたモデルは、ImageNet-Aでより良い堅牢性を示す可能性があるが、自然変動の多様性によりギャップを完全に埋めることはまだできないことを研究が示している。
制限と批判
ImageNet-Aにはいくつかの実用的な問題が存在する。データセットは15,15に制限されており、以前のモデルによって誤分類されたクラスのみを含むため、他の生成アプローチでトレーニングされた分類器をほとんど保持しないバイアスを生み出す可能性がある。さらに、モデル予測を使用したキュレーションプロセスは、2019年時代のモデルの特定の盲点を強調する選択バイアスをもたらす可能性がある。2020年代初頭の時点で、より堅牢な大規模モデルがImageNet-Aのスコアを改善しているが、分布シフトを完全に解決するために必要な柔軟性には課題が残る。批評家はまた、データセットが他の堅牢性ベンチマークと比較して小さく、パフォーマンス測定の統計的検出力を制限していると指摘する。
遺産と影響
ImageNet-Aの導入は、標準的なテスト精度を超えてモデルを評価する必要性についてのコミュニティ内のより広い認識に貢献した。これはいくつかのリーダーボードに組み込まれ、モデル堅牢性に関する多くの大規模な調査で簡単に言及されている。特に、人間が完全な信頼度でラベル付けするがモデルが失敗する自然な例を収集するアプローチは、ObjectNet（グローバルな回転を制御する）や実践で遭遇する世界に焦点を当てた他のデータセットの青写真となった。このデータセットは、より良い堅牢性を主張する新しい機械学習手法を検証するための一般的なツールであり続け、後の分布外一般化の近似の予行演習としても使用され続けている。
中心的な教訓は、ImageNet-Aがベンチマーク設定でのモデルの精度と実世界での信頼できる動作との間の観察された乖離を強調していることである。これは、研究から産業使用への移行時にモデルをより責任を持ってスケジュールする方法についての重要な学術的対話を導き、敵対的脆弱性を研究しているバークレーAI研究やスタンフォードAIラボなどの研究室からの研究目標と共鳴する。