Label Smoothing

Suavização de rótulos é uma técnica de regularização usada em aprendizado de máquina e aprendizado profundo para evitar que um modelo se torne excessivamente confiante em suas previsões. Em vez de treinar um modelo para produzir uma probabilidade de 1,0 para a classe correta e 0,0 para todas as outras (conhecida como codificação one-hot), a suavização de rótulos substitui esses alvos rígidos por uma versão suavizada. Isso é alcançado atribuindo uma pequena quantidade de massa de probabilidade a todas as classes incorretas, tipicamente extraída de uma distribuição uniforme. A técnica foi popularizada no contexto do treinamento de redes neurais, particularmente para tarefas de classificação de imagens e processamento de linguagem natural, e se tornou um componente padrão em muitos pipelines de treinamento modernos, incluindo aqueles para modelos de linguagem de grande porte.

A ideia central é reduzir a excessiva confiança do modelo, que pode levar a uma generalização ruim em dados não vistos. Alvos rígidos incentivam o modelo a empurrar seus logits de saída para valores extremos, tornando-o frágil e sensível a ruídos. Ao suavizar os alvos, o modelo é incentivado a produzir distribuições de probabilidade mais moderadas, o que frequentemente melhora a calibração e a robustez. A suavização de rótulos é um método simples, porém eficaz, que requer sobrecarga computacional mínima e pode ser facilmente integrado a frameworks de treinamento existentes.

Formulação Matemática

Em uma tarefa de classificação padrão com \(K\) classes, o rótulo verdadeiro para uma amostra é representado como um vetor one-hot \(y\), onde \(y_c = 1\) para a classe correta \(c\) e \(y_i = 0\) para todas as outras classes \(i \neq c\). O modelo produz uma distribuição de probabilidade \(p\) sobre as classes, tipicamente obtida aplicando uma função softmax aos logits. A perda de treinamento é geralmente a entropia cruzada entre \(y\) e \(p\).

A suavização de rótulos modifica a distribuição alvo \(y\) para \(y^{LS}\), definida como:

\[ y^{LS}_i = (1 - \epsilon) \cdot y_i + \frac{\epsilon}{K} \]

onde \(\epsilon\) é um parâmetro de suavização entre 0 e 1. Para a classe correta, o alvo se torna \(1 - \epsilon + \frac{\epsilon}{K}\), e para cada classe incorreta, se torna \(\frac{\epsilon}{K}\). Isso garante que a soma das probabilidades alvo permaneça 1. A perda de entropia cruzada é então calculada usando \(y^{LS}\) em vez de \(y\).

Uma escolha comum para \(\epsilon\) é 0,1, mas os valores podem variar de 0,01 a 0,2 dependendo da tarefa e do conjunto de dados. O parâmetro controla o grau de suavização; um \(\epsilon\) maior resulta em uma distribuição alvo mais uniforme, enquanto \(\epsilon = 0\) recupera os rótulos rígidos originais.

Contexto Histórico

O conceito de suavização de rótulos tem raízes em trabalhos anteriores sobre regularização e calibração de probabilidades. Um precursor notável é o uso de "alvos suaves" na destilação de modelos, onde um modelo menor é treinado para imitar as probabilidades de saída de um modelo maior pré-treinado. No entanto, a suavização de rótulos como técnica independente foi formalmente introduzida e popularizada em um artigo de 2016 por pesquisadores da Google DeepMind (então Google Brain), intitulado "Rethinking the Inception Architecture for Computer Vision". Os autores, incluindo Christian Szegedy, Vincent Vanhoucke, Sergey Ioffe, Jonathon Shlens e Zbigniew Wojna, a propuseram como uma forma de melhorar o treinamento de redes convolucionais profundas para classificação de imagens.

Desde então, a suavização de rótulos foi amplamente adotada em diversos domínios. Ela se mostrou particularmente eficaz no treinamento de modelos em grande escala, incluindo arquiteturas baseadas em transformadores usadas em IA generativa e processamento de linguagem natural. A técnica agora é um componente padrão em muitas bibliotecas de treinamento de código aberto e é frequentemente usada por padrão em modelos de última geração.

Benefícios e Mecanismos

A suavização de rótulos proporciona vários benefícios que contribuem para um melhor desempenho do modelo:

• Previne excesso de confiança: Ao suavizar os alvos, o modelo é desencorajado a atribuir probabilidades extremamente altas a qualquer classe única. Isso reduz o risco de overfitting aos dados de treinamento e melhora a capacidade do modelo de generalizar.
• Melhora a calibração: Modelos treinados com suavização de rótulos tendem a ter probabilidades melhor calibradas, o que significa que suas pontuações de confiança previstas se alinham mais de perto com a precisão real. Isso é particularmente importante em aplicações onde limites de decisão são usados.
• Efeito de regularização: A técnica atua como uma forma de regularização, semelhante a estratégias de Dropout ou inicialização de pesos, adicionando uma pequena quantidade de ruído à distribuição alvo. Isso pode ajudar o modelo a aprender características mais robustas.
• Superfície de perda mais suave: A suavização de rótulos pode tornar a superfície de otimização mais suave, o que pode facilitar uma convergência mais rápida e reduzir a probabilidade de ficar preso em mínimos acentuados.

Pesquisas também mostraram que a suavização de rótulos pode melhorar a qualidade das representações aprendidas. Por exemplo, em tarefas de visão computacional, modelos treinados com suavização de rótulos frequentemente produzem embeddings de características mais separáveis e mais adequados para aprendizado por transferência.

Aplicações em IA Moderna

A suavização de rótulos se tornou uma técnica onipresente no treinamento de sistemas de IA modernos. No campo dos modelos de linguagem de grande porte, ela é frequentemente usada durante o pré-treinamento e o ajuste fino. Por exemplo, modelos como GPT e variantes de BERT incorporaram suavização de rótulos para melhorar sua robustez e calibração. A técnica também é aplicada em modelos sequência a sequência para tarefas como tradução automática e sumarização de texto.

Em aprendizado por reforço e áreas relacionadas como aprendizado por reforço a partir de feedback de IA, a suavização de rótulos pode ser usada para suavizar sinais de recompensa ou distribuições alvo, ajudando a estabilizar o treinamento. Além disso, é frequentemente combinada com outros métodos de regularização como aumento de dados e recorte de gradientes para alcançar desempenho de última geração.

Relação com Outras Técnicas

A suavização de rótulos está conceitualmente relacionada a vários outros métodos em aprendizado de máquina:

• Destilação de conhecimento: Na destilação, um modelo aluno é treinado nas saídas suaves de um modelo professor. A suavização de rótulos pode ser vista como uma forma simples de destilação onde o professor é uma distribuição uniforme.
• Penalidade de confiança: Esta é uma técnica de regularização que adiciona um termo de penalidade à função de perda para desencorajar previsões excessivamente confiantes. A suavização de rótulos alcança um efeito semelhante ao modificar os alvos diretamente.
• Mixup e CutMix: Estas são técnicas de aumento de dados que criam novas amostras de treinamento interpolando entre pares de exemplos e seus rótulos. A suavização de rótulos pode ser aplicada em conjunto com esses métodos para regularização adicional.
• Escalonamento de temperatura: Em escalonamento de temperatura, os logits são divididos por um parâmetro de temperatura antes de aplicar softmax, o que afeta a nitidez da distribuição de saída. A suavização de rótulos opera no lado do alvo, enquanto o escalonamento de temperatura opera no lado da previsão.

Considerações Práticas

Ao implementar a suavização de rótulos, vários aspectos práticos devem ser considerados:

• Escolha do épsilon: O parâmetro de suavização \(\epsilon\) é um hiperparâmetro que precisa ser ajustado. Um padrão comum é 0,1, mas os valores ideais podem variar. Para tarefas com um grande número de classes, um \(\epsilon\) menor pode ser apropriado para evitar suavização excessiva.
• Interação com funções de perda: A suavização de rótulos é tipicamente aplicada com perda de entropia cruzada. No entanto, pode ser adaptada a outras funções de perda, como perda focal ou funções de perda usadas em aprendizado métrico, embora a formulação possa precisar de ajustes.
• Impacto nos logits: Um efeito colateral conhecido da suavização de rótulos é que ela pode fazer com que os logits do modelo sejam maiores em magnitude, o que pode afetar a interpretação das pontuações de confiança. Alguns estudos notaram que isso pode levar a problemas com destilação de conhecimento, pois as saídas suavizadas podem ser menos informativas.
• Implementação: Na prática, a suavização de rótulos é frequentemente implementada modificando a função de perda em vez dos vetores alvo, para evitar armazenar a distribuição suavizada completa. Isso é computacionalmente eficiente e fácil de integrar em frameworks existentes.

Pesquisa e Extensões

Desde sua introdução, a suavização de rótulos tem sido objeto de extensa pesquisa. Estudos analisaram suas propriedades teóricas, mostrando que ela pode ser interpretada como uma forma de regularização de entropia ou como uma maneira de incorporar conhecimento prévio sobre ruído de rótulos. Extensões incluem suavização de rótulos adaptativa, onde o parâmetro de suavização é aprendido durante o treinamento, e suavização dependente de classe, onde diferentes classes recebem diferentes níveis de suavização.

No contexto de modelos baseados em transformadores, a suavização de rótulos mostrou melhorar a estabilidade do treinamento, especialmente quando combinada com normalização de camadas e conexões de redes residuais. Também é usada em conjunto com agendamentos de taxa de aprendizado e otimizador Adam para alcançar desempenho ideal.

Limitações e Críticas

Apesar de seu uso generalizado, a suavização de rótulos não está isenta de limitações. Alguns pesquisadores apontaram que ela pode degradar o desempenho em tarefas onde o modelo precisa fazer previsões muito confiantes, como certos tipos de classificação com limites de decisão claros. Além disso, a suavização de rótulos pode obscurecer a verdadeira incerteza do modelo, tornando mais difícil interpretar as probabilidades de saída em aplicações de alto risco.

Outra crítica é que a suavização de rótulos pode nem sempre melhorar a calibração e, em alguns casos, pode levar a uma calibração pior em comparação com outros métodos como escalonamento de temperatura. A eficácia da suavização de rótulos também depende do conjunto de dados e da arquitetura do modelo, e pode não proporcionar benefícios em todos os cenários.

Conclusão

A suavização de rótulos continua sendo uma técnica de regularização fundamental e amplamente usada em inteligência artificial. Sua simplicidade, eficácia e baixo custo computacional a tornaram uma escolha padrão em muitos pipelines de treinamento. Embora tenha algumas limitações, seus benefícios em termos de generalização e calibração frequentemente superam as desvantagens, particularmente em aplicações de aprendizado profundo em grande escala. À medida que a pesquisa continua, novas variações e refinamentos da suavização de rótulos provavelmente surgirão, consolidando ainda mais seu papel no kit de ferramentas do aprendizado de máquina.