Aprendizado com poucos exemplos é a capacidade de executar uma nova tarefa corretamente após receber apenas um pequeno número de exemplos dessa tarefa, muitas vezes de um a algumas dezenas. No contexto de grandes modelos de linguagem, o termo mais comumente se refere a uma prática específica: colocar vários exemplos de entrada-saída diretamente dentro do prompt, imediatamente antes da consulta real, para que o modelo possa inferir o padrão e aplicá-lo sem qualquer alteração em seus pesos subjacentes. Isso distingue o aprendizado com poucos exemplos das abordagens supervisionadas tradicionais, nas quais aprender uma nova tarefa exige reunir um conjunto de dados rotulados e executar um processo de otimização, como o ajuste fino.
O enquadramento foi popularizado pelo artigo do GPT-3, "Language Models are Few-Shot Learners", publicado por Tom Brown e coautores da OpenAI em 2020. O artigo mostrou que um modelo autorregressivo suficientemente grande, treinado apenas na previsão do próximo token sobre grandes quantidades de texto, poderia executar tradução, resposta a perguntas e aritmética razoavelmente bem quando recebia um punhado de demonstrações em seu contexto, sem nenhuma atualização de gradiente. Esse resultado foi uma das primeiras demonstrações claras de que a escala sozinha, combinada com um objetivo de pré-treinamento de propósito geral, poderia substituir dados de treinamento específicos de tarefas.
Mecanismo
O prompting com poucos exemplos funciona porque os parâmetros de um modelo pré-treinado já codificam conhecimento estatístico amplo sobre como tarefas de vários tipos são estruturadas; os exemplos no prompt não ensinam ao modelo fatos novos, mas sim especificam qual tarefa, formato e estilo aplicar entre os muitos que o modelo já é capaz de produzir. Essa capacidade é geralmente estudada sob o título mais amplo de aprendizado no contexto, o fenômeno pelo qual modelos baseados em transformadores adaptam seu comportamento com base puramente no conteúdo de sua janela de contexto. O número de exemplos necessários, sua ordem, sua similaridade com a consulta alvo e como as demonstrações são formatadas mostraram-se todos capazes de afetar a precisão, às vezes substancialmente, o que tornou o design de prompts um ofício empírico por si só, intimamente relacionado ao engenharia de prompt.
Relação com zero-shot e ajuste fino
O aprendizado com poucos exemplos situa-se entre outros dois regimes: o aprendizado zero-shot, onde o modelo recebe apenas uma instrução e nenhum exemplo, e o ajuste fino, onde os pesos do modelo são atualizados em um conjunto de dados rotulado. À medida que os modelos cresceram e foram treinados com ajuste de instruções mais pesado, a lacuna entre o desempenho zero-shot e o de poucos exemplos diminuiu para muitas tarefas comuns, já que modelos bem alinhados podem frequentemente seguir uma instrução clara corretamente sem demonstrações. Exemplos de poucos disparos permanecem úteis, no entanto, para especificar um formato de saída incomum, um esquema de classificação idiossincrático ou um estilo difícil de descrever em palavras, mas fácil de mostrar. Comparado ao ajuste fino, o prompting com poucos exemplos tem a vantagem de não exigir infraestrutura de treinamento e de ter efeito imediato, mas consome espaço na janela de contexto a cada chamada e seus ganhos tipicamente não persistem ou se acumulam como os de um modelo ajustado.
Recepção e legado
O resultado de poucos exemplos do GPT-3 reformulou como o campo pensava sobre generalização: em vez de construir modelos estreitos para cada tarefa, tornou-se plausível construir um modelo grande e geral e especializá-lo no momento da inferência apenas por meio de prompting. Essa mudança sustentou o modelo de negócios baseado em API que a OpenAI e concorrentes posteriores adotaram, e prenunciou diretamente o movimento mais amplo em direção a assistentes de chat de propósito geral, como o ChatGPT. Trabalhos posteriores questionaram quanto do aparente "aprendizado" refletia aquisição genuína de novas tarefas versus a recuperação de uma tarefa que o modelo já havia visto algo semelhante durante o pré-treinamento, um debate que continua a moldar como pesquisadores interpretam alegações de capacidade ligadas a habilidades emergentes e benchmarks de poucos exemplos.