O Desafio de Reconhecimento Visual em Grande Escala ImageNet (ILSVRC) de 2012, uma competição anual de visão computacional construída sobre o conjunto de dados ImageNet, foi vencido pelo AlexNet, uma rede neural convolucional profunda desenvolvida por Alex Krizhevsky, Ilya Sutskever e Geoffrey Hinton na Universidade de Toronto. O resultado é amplamente considerado o evento único que lançou a era moderna do aprendizado profundo.
A competição
O ILSVRC, realizado anualmente desde 2010, desafiava os participantes a classificar imagens de aproximadamente 1,2 milhão de fotografias de treinamento rotuladas do ImageNet em uma de 1.000 categorias de objetos, e havia se tornado o padrão de referência para o progresso no reconhecimento de imagens. As inscrições de 2010 e 2011 dependiam predominantemente de métodos de extração de características projetados manualmente, combinados com classificadores clássicos de aprendizado de máquina, e as melhorias na taxa de erro ano a ano eram incrementais, geralmente alguns pontos percentuais.
O resultado do AlexNet
A inscrição de Alex Krizhevsky, treinada por sua equipe usando dois GPUs de consumo em cerca de uma semana, alcançou uma taxa de erro top-5 de 15,3%, uma melhoria dramática em relação aos 26,2% da segunda colocação, uma diferença de quase dez pontos percentuais que surpreendeu a comunidade de pesquisa em visão computacional, a qual, em sua maioria, não estava usando abordagens de redes neurais profundas. A arquitetura do AlexNet combinava múltiplas camadas convolucionais, a função de ativação ReLU, regularização por dropout e aumento de dados, técnicas que eram conhecidas individualmente, mas que não haviam sido combinadas anteriormente nessa escala e treinadas com sucesso em hardware de GPU, tornadas viáveis em parte pela plataforma CUDA da NVIDIA.
Consequências e impacto
A magnitude da margem do AlexNet sobre os métodos concorrentes mudou a trajetória da pesquisa em IA em cerca de dois anos: a pesquisa em visão computacional mudou quase inteiramente para abordagens de redes neurais, e a combinação demonstrada de grandes conjuntos de dados rotulados, computação por GPU e arquiteturas profundas tornou-se o modelo que o progresso subsequente em processamento de linguagem natural e outros domínios seguiria. Os vencedores subsequentes do ILSVRC continuaram a usar redes convolucionais profundas com profundidade crescente, e em 2015 as taxas de erro no benchmark caíram abaixo do desempenho humano estimado, levando os organizadores da competição a aposentar a categoria de classificação como efetivamente resolvida. O resultado de 2012 é comumente citado, juntamente com o trabalho original sobre retropropagação e o artigo posterior sobre Transformers, como um dos poucos resultados técnicos mais responsáveis pelo boom do aprendizado profundo que produziu os grandes modelos de linguagem da década de 2020, e consolidou a reputação de Hinton como uma figura central do campo anos antes de seu Prêmio Nobel de 2024.