STL-10 é um conjunto de dados de imagens de referência criado para apoiar pesquisas em aprendizado não supervisionado e autossupervisionado. É notável por incluir um grande conjunto de imagens não rotuladas (100.000) juntamente com um conjunto comparativamente pequeno de exemplos rotulados(13.000 no total).. Esse design incentiva algoritmos a aproveitar os dados não rotulados para aprender características visuais úteis antes do ajuste fino no subconjunto rotulado, refletindo cenários práticos onde dados rotulados são escassos, mas dados não rotulados são abundantes.
O conjunto de dados consiste em 10 classes: avião, pássaro, carro, gato, veado, cachorro, cavalo, macaco, navio e caminhão. Cada classe rotulada contém 1.300 amostras, divididas em 500 para treinamento, 500 para teste e 300 para validação(uma divisão que não é comumente usada por todos os pesquisadores, que frequentemente combinam treinamento e validação. Cada imagem tem 96x96 pixels em cores RGB. A porção não rotulada, extraída de um conjunto muito mais amplo de categorias de animais e veículos(incluindo algumas não presentes no conjunto rotulado,, fornece um desafio maior para aprendizado não supervisionado, e todas as imagens são originadas de distribuições semelhantes às do ImageNet.
História e Origens
STL-10 foi introduzido em 2011 por Adam Coates, Honglak Lee e Andrew Y. Ng da Universidade de Stanford(especificamente o Stanford AI Lab) como parte de suas pesquisas sobre aprendizado profundo e extração de características. O artigo 'An Analysis of Single-Layer Networks in Unsupervised Feature Learning' apresentou formalmente o conjunto de dados. O objetivo era fornecer um benchmark compacto, porém realista, para avaliar algoritmos de aprendizado de características não supervisionado sem exigir recursos computacionais massivos, já que em 96x96 pixels é pequeno o suficiente para experimentação rápida, mas com resolução mais alta do que as imagens de 32x32 do CIFAR-10.
O design do conjunto de dados apoia diretamente pesquisas em Machine learning e Deep learning, particularmente para arquiteturas de Neural network que aprendem representações a partir de dados não rotulados. Sua criação seguiu trabalhos anteriores do mesmo grupo, incluindo sobre os conjuntos de dados CIFAR-10 e CIFAR-100, mas STL-10 enfatiza especificamente o uso de alternativas não rotuladas para reduzir a necessidade de rotulagem humana cara.
Relação com a Pesquisa em Aprendizado Profundo
STL-10 tornou-se um benchmark padrão no estudo de Artificial intelligence, particularmente para avaliar métodos de pré-treinamento como autoencoders, máquinas de Boltzmann restritas e abordagens posteriores de aprendizado contrastivo. No final dos anos 2010 e início dos anos 2020, à medida que aprendizado autossupervisionado ganhou popularidade, STL-10 permaneceu uma tarefa de avaliação frequentemente usada. Seus 100.000 imagens não rotuladas servem como um proxy ideal para conjuntos de dados não rotulados em maior escala como ImageNet, mas com um tamanho espacial gerenciável e um número tratável de categorias.
Porque os dados rotulados são tão limitados(500 por classe para treinamento,, o conjunto de dados força algoritmos a fazer uso eficaz do pool não rotulado, tornando-o um teste rigoroso de aprendizado de características. Modelos que alcançam alta precisão no STL-10 tipicamente demonstram generalização robusta, e é por isso que permanece um alvo válido para comparações acadêmicas. O conjunto de dados é frequentemente usado em conjunto com avanços arquiteturais de grupos como OpenAI ou Google DeepMind para testar novos métodos em um ambiente de baixo custo.
Composição e Acesso aos Dados
STL-10 é distribuído como um conjunto de arquivos binários juntamente com uma lista ASCII de rótulos(0-9. Desde sua publicação, foi preparado em muitas formas, incluindo sua integração em várias bibliotecas, por exemplo, conjuntos de dados TensorFlow e PyTorch para uso direto. O conjunto não rotulado contém muito mais classes do que as 10 rotuladas, embora a documentação oficial não forneça os nomes exatos das categorias. As imagens correspondentes são amostras de um conjunto maior de ImageNet, representando uma distribuição mais ampla sobre animais e cenas, conforme observado. Uma das vantagens práticas é a ausência de necessidade de download ou licenciamento. A hospedagem original pela Stanford(com um espelho em outras universidades) dá acesso gratuito para pesquisa. A partir dos anos 2020, permanece um assunto comum para comparação em artigos acadêmicos, embora menos popular do que CIFAR-10 devido ao seu tamanho de arquivo maior(cerca de 1.5 GB não rotulado vs. ~170 MB.
Uso em Aprendizado Autossupervisionado
Na era das arquiteturas Transformer (architecture) para visão(por exemplo,, ViT,, STL-10 permanece relevante como um conjunto de avaliação para pré-treinamento autossupervisionado. Métodos como SimCLR, BYOL e DINO relataram testes no STL-10, comparando seu desempenho contra linhas de base supervisionadas no pequeno conjunto rotulado. O conjunto de dados fornece exatamente um cenário onde pré-treinamento não supervisionado pode render muitos ganhos: 100k imagens não rotuladas vs. 5k de treinamento(mas com imagens de resolução mais alta.
Além disso, STL-10 é frequentemente usado para avaliar novas técnicas não apenas para classificação, mas também para qualidade de aprendizado de representação, como sondagem linear ou classificação KNN em características aprendidas. O pool não rotulado vastamente maior(comparado aos 50k do CIFAR-10) mostra sensibilidade ao número de exemplos não rotulados, e permite testar a escalabilidade de algoritmos para conjuntos de dados maiores. Embora benchmarks modernos anteriores como ImageNet(1.28M) tenham superado como alvo primário, STL-10 ainda mantém valor por sua eficiência computacional.
Limitações e Legado
Como com conjuntos de dados do início dos anos 2010, STL-10 tem algumas desvantagens. Sua resolução de 96 pixels é relativamente moderada, não tão alta quanto a variada do ImageNet, mas sua diversidade de imagens é escassa. As classes rotuladas são limitadas a 10, o que força algoritmos a realizar tarefas de reconhecimento de grão fino dentro dessas categorias. O conteúdo do conjunto não rotulado não é totalmente disjunto do conjunto rotulado, mas, como conhecido pelo design experimental, pode conter imagens das mesmas classes(animais) não rotuladas.
No entanto, seu lançamento contribuiu para o desenvolvimento de métodos modernos. Sua combinação de um conjunto rotulado forte, porém pequeno, e um pool não rotulado grande prefigura o interesse posterior em aprendizado fracamente supervisionado. Muitos dos avanços proeminentes em Artificial intelligence em laboratórios como o Berkeley AI Research e o MIT's Computer Science usaram-no em artigos sobre extração de características não supervisionada, indicando sua influência duradoura em benchmarks de visão. STL-10 é também frequentemente usado por ágeis em conferências acadêmicas para mostrar progresso parcimonioso em uma tarefa padrão. A partir de 2023, permanece um exemplo de aula padrão em cursos de Deep learning e uma referência estável em numerosa documentação de bibliotecas.
Ver também
- CIFAR-10 - Um conjunto de dados de resolução 32x32 menor com categorias de classes semelhantes
- ImageNet - Um conjunto de dados muito maior intimamente relacionado à fonte das imagens não rotuladas do STL-10.
- Aprendizado não supervisionado - O paradigma amplo de aprendizado sem rótulos, que é o propósito principal do STL-10.