COCO 2017は、物体検出、セグメンテーション、画像キャプショニングのための大規模ベンチマークであるCommon Objects in Context(COCO)チャレンジの年次版である。2017年にMicrosoftの研究チームによって公開され、2014年と2015年の以前のバージョンに続く、コンピュータビジョンモデルの標準的な評価データセットとなった。このデータセットには、118,000枚のトレーニング画像、5,000枚の検証画像、41,000枚のテスト画像が含まれ、80のオブジェクトカテゴリと91のスタッフカテゴリをカバーするアノテーションが付与されている。
チャレンジのタスクには、バウンディングボックスによる物体検出、インスタンスセグメンテーション、パノプティックセグメンテーション(後に追加)、画像キャプショニングが含まれる。COCO 2017は、新しいtest-dev分割と改良されたアノテーションプロトコルを導入し、以前の版よりも厳格なものとなった。これは学術研究や産業競技で広く使用され、リーダーボードで最先端のパフォーマンスが追跡されている。
データセット構成
COCO 2017データセットは、20万枚以上の画像と150万以上のラベル付きインスタンスで構成されている。各画像には、オブジェクトのバウンディングボックス、セグメンテーションマスク、キャプションがアノテーションされている。80のオブジェクトカテゴリには、人、車、犬、椅子などの一般的なアイテムが含まれ、91のスタッフカテゴリは、草、空、壁などの背景をカバーしている。画像はFlickrから取得され、シーン構成、照明、オブジェクトのスケールにおいて多様である。
アノテーションはJSON形式で提供され、各画像には複数のアノテーションエントリがある。トレーニングセットはモデルのトレーニングに使用され、検証セットはハイパーパラメータの調整とモデル選択に使用される。テストセットは最終評価に使用され、過学習を防ぐためにアノテーションは公開から除外されている。
評価指標
COCO 2017は、標準的なCOCO評価指標、主にAverage Precision(AP)とAverage Recall(AR)を使用する。APは、0.5から0.95までのIoU(Intersection-over-Union)閾値で0.05刻みに計算され、平均化される。この指標は、固定IoU 0.5を使用する従来のPASCAL VOC指標よりも厳格である。主要な指標はAP@[0.5:0.95]であり、単にAPと表記されることが多い。
セグメンテーションタスクでは、同じ指標がマスク予測に適用される。キャプショニングでは、BLEU、METEOR、CIDErなどの指標が使用される。チャレンジでは推論速度も追跡され、一部の年では別のレイテンシカテゴリが設けられている。
コンピュータビジョンへの影響
COCO 2017は、物体検出とセグメンテーション研究の事実上のベンチマークとなった。多くの影響力のあるモデルがこのデータセットで評価され、ResNetベースの検出器、U-Netの変種、後のトランスフォーマーベースのアーキテクチャが含まれる。このデータセットは、マルチスケール特徴学習、アンカーフリー検出、インスタンスセグメンテーションの進歩を促進した。
その大規模さと多様なアノテーションにより、データ拡張技術やバッチ正規化手法の開発が可能となった。チャレンジはまた、テストセットのアノテーションが非公開であるため、弱教師あり学習や半教師あり学習の研究も促進した。
チャレンジの版と受賞者
COCO 2017は、一連の年次チャレンジの一部であった。2017年版には、大手テクノロジー企業や学術機関が参加した。受賞チームは、しばしばアンサンブルモデルと高度なトレーニング戦略を使用した。例えば、2017年の検出部門の受賞者はAP 0.493を達成し、2015年の受賞者の0.375から大幅に改善された。
チャレンジ形式には、検出、セグメンテーション、キャプショニングの別々のトラックが含まれていた。セグメンテーショントラックはインスタンスレベルのマスクに焦点を当て、キャプショニングトラックは自然言語の説明を生成することを要求した。2017年版では、スタッフセグメンテーションの新しいタスクも導入され、これは後に2018年にパノプティックセグメンテーションへと進化した。
遺産と未来
COCO 2017は、LVISやOpen Imagesなどの新しいデータセットが導入された後も広く使用され続けている。そのアノテーションは、多くの深層学習モデルを評価するための標準であり続けている。このデータセットは、Detectron2やMMDetectionなどの人気ツールキットに組み込まれ、世界中の研究者がアクセスできるようになっている。
2025年現在、COCO 2017はモデルパフォーマンスの参照点として継続しており、Google CloudのOpen ImagesやAWSの公開データセットなどの新しいベンチマークが代替の課題を提供している。COCOコンソーシアムはその後の版をリリースしているが、2017年版は文献で最も引用され使用されている版である。