ImageNet est un ensemble de données à grande échelle d'images étiquetées, organisé selon la hiérarchie des noms de WordNet et, par extension, le nom couramment donné au défi annuel de reconnaissance visuelle à grande échelle ImageNet (ILSVRC) qui en est issu. Créé par Fei-Fei Li et ses collègues à Princeton et Stanford à partir de 2006 et présenté pour la première fois en 2009, l'ensemble de données a finalement atteint environ 14 millions d'images couvrant plus de 20 000 catégories, avec le sous-ensemble ILSVRC utilisé dans les compétitions couvrant 1 000 classes d'objets. ImageNet est largement crédité d'avoir fourni l'échelle de données nécessaire pour rendre les méthodes de apprentissage profond pratiques pour la vision par ordinateur, et sa compétition de 2012 est souvent citée comme le moment qui a déclenché la renaissance moderne du domaine.
Histoire
Fei-Fei Li a commencé le projet ImageNet par conviction que les progrès en reconnaissance visuelle étaient limités moins par les algorithmes que par l'absence d'un ensemble de données suffisamment vaste, diversifié et bien étiqueté. En travaillant à partir de la base de données lexicales WordNet, l'équipe a entrepris de collecter des images pour chaque synset nominal, en utilisant la recherche d'images sur le web pour rassembler des candidats et le crowdsourcing via Amazon Mechanical Turk pour vérifier les étiquettes. L'ensemble de données complet a été présenté à la conférence IEEE sur la vision par ordinateur et la reconnaissance de formes en 2009, et la compétition ILSVRC a été lancée l'année suivante, opposant des équipes de recherche sur des tâches de classification et de détection sur un sous-ensemble réservé d'environ 1,2 million d'images d'entraînement.
La percée de 2012
L'ILSVRC 2012 est le moment le plus connu de l'ensemble de données. Un réseau de neurones convolutif soumis par Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton, plus tard nommé AlexNet, a réduit le taux d'erreur top-5 de la compétition d'environ 26 pour cent à environ 15 pour cent, une marge bien plus grande que toute amélioration annuelle précédente. Le résultat dépendait de l'entraînement d'un réseau profond à l'échelle des données étiquetées d'ImageNet en utilisant du matériel GPU, et il est décrit plus en détail dans l'article sur l'événement ImageNet 2012 (AlexNet moment). La victoire a convaincu une grande partie de la communauté de vision par ordinateur, qui avait favorisé les caractéristiques conçues à la main et d'autres méthodes de apprentissage automatique, que les réseaux de neurones profonds entraînés sur de grands ensembles de données étiquetés pouvaient surpasser les approches précédentes par une large marge.
Héritage et impact
Après 2012, les gagnants de l'ILSVRC étaient des réseaux profonds presque chaque année, avec des architectures telles que VGG, GoogLeNet et ResNet réduisant progressivement le taux d'erreur top-5 en dessous de 5 pour cent d'ici 2015, en dessous du taux d'erreur généralement attribué aux annotateurs humains sur la même tâche. Le pré-entraînement sur ImageNet est également devenu une technique standard : les modèles entraînés pour la classification sur ImageNet étaient réutilisés comme extracteurs de caractéristiques ou points de départ de réglage fin pour d'autres tâches de vision, un exemple précoce à grande échelle de apprentissage par transfert. Le rôle de l'ensemble de données comme référence commune a permis de comparer les architectures dans des conditions cohérentes, une pratique que les références ultérieures pour les modèles de langage et de raisonnement ont héritée. La compétition elle-même a duré jusqu'en 2017, après quoi les organisateurs ont jugé que les taux d'erreur avaient saturé près de la limite pratique du bruit des annotations elles-mêmes.
Critique
ImageNet a également attiré l'attention comme un exemple des problèmes inhérents aux grandes données d'entraînement extraites du web. Les chercheurs ont découvert que certaines catégories non liées aux objets dans l'ensemble complet de 14 millions d'images, en particulier dans la branche « personne » héritée de WordNet, contenaient des étiquettes offensantes ou inappropriées, ce qui a incité l'équipe ImageNet à supprimer ou flouter de grandes parties de cette branche en 2019. L'épisode est devenu une étude de cas fréquemment citée dans les discussions sur l'biais algorithmique et la difficulté de curer des ensembles de données à l'échelle d'Internet de manière responsable, préfigurant des débats similaires sur les corpus de textes et d'images utilisés pour pré-entraîner les modèles génératifs ultérieurs.