Temperatura é um hiperparámetro usado em modelos de linguagem de grande escala para controlar a aleatoriedade da saída do modelo durante a geração de texto. É um fator de escala aplicado aos logits (as pontuações brutas e não normalizadas) produzidos pela última camada do modelo antes que a função softmax os converta em uma distribuição de probabilidade sobre o vocabulário. Ao ajustar a temperatura, desenvolvedores e usuários podem influenciar o equilíbrio entre criatividade e previsibilidade no texto gerado.
O conceito origina-se da mecânica estatística, onde a temperatura governa a entropia de um sistema. Em aprendizado de máquina, a temperatura foi introducida como uma modificação à função softmax, às vezes chamada de 'temperatura softmax', para afinar ou aplanar a distribuição de saída. Uma temperatura de 1,0 deixa a distribuição inalterada. Valores maiores que 1,0 aumentam a entropia, tornando a distribuição mais uniforme e, portanto, mais aleatoria. Valores menores que 1,0 diminuem a entropia, tornando a distribuição mais concentrada e, portanto, mais determinística. Uma temperatura de 0,0 (ou próxima a zero) efetivamente selecciona o token com maior probabilidade, resultando em decodificação gananciosa.
A temperatura é uma de várias estratégias de muestreo usadas na inferência de LLM, junto com el muestreo top-k e el muestreo de núcleo (top-p). Estes métodos são frequentemente usados em conjunto para controlar a qualidade e a diversidade do texto gerado. Na prática, a temperatura é definida com base na aplicação desejada: temperaturas mais baixas para tarefas que exigem precisão factual ou geração de código, e temperaturas mais altas para escrita criativa ou brainstorming.
Papel na Inferência de LLM
Durante a inferência, um LLM predice o próximo token calculando uma distribuição de probabilidade sobre todo seu vocabulário. O parámetro de temperatura modifica esta distribuição antes do muestreo. Para um conjunto dado de logits z, a probabilidade do token i é calculada como softmax(z_i / T), onde T é a temperatura. Quando T é baixa, as diferenças entre os logits são amplificadas, fazendo que o token mais provável domine. Quando T é alta, as diferenças são diminuidas, dando aos tokens menos prováveis uma maior chance de ser seleccionados.
Este mecanismo permite que um único modelo produza saídas variadas para o mesmo prompt. Por exemplo, uma temperatura de 0,2 pode ser usada para um chatbot de suporte ao cliente para garantir respostas consistentes e confiáveis, enquanto uma temperatura de 0,8 poderia ser usada para um assistente de escrita criativa para gerar prosa mais imaginativa. Muitas APIs de LLM, como as de OpenAI, Anthropic e Google DeepMind, expõem a temperatura como um parámetro configurable.
Efecto na Qualidade da Saída
A temperatura tem um impacto direto na qualidade e coerência do texto gerado. Temperaturas baixas tendem a produzir saídas repetitivas e seguras, mas também podem levar a 'colapso de modo' onde o modelo fica preso em um loop. Temperaturas altas podem introducir erros gramaticales, inconsistências lógicas ou conteúdo sem sentido, já que o modelo pode seleccionar tokens improbables. Encontrar a temperatura óptima frequentemente requer experimentação e depende da tarefa específica e do modelo.
Pesquisa e experiência prática têm mostrado que temperaturas moderadas (por exemplo, 0,7 a 0,9) frequentemente alcanzan um bom equilíbrio para geração de texto de propósito geral. No entanto, para tarefas como geração de código, temperaturas mais baixas (por exemplo, 0,1 a 0,3) são recomendadas para reduzir erros de sintaxis e melhorar a correção. Por outro lado, para tarefas como geração de histórias ou diálogo, temperaturas mais altas podem produzir respostas mais envolventes e variadas.
Relação com Outros Métodos de Muestreo
A temperatura é frequentemente usada em conjunto com outras técnicas de muestreo. O muestreo top-k restringe o pool de muestreo aos k tokens seguintes mais prováveis, enquanto o muestreo de núcleo (top-p) selecciona do menor conjunto de tokens cuja probabilidade acumulada excede um limiar p. Estes métodos podem ser combinados com temperatura para controlar ainda mais a aleatoriedad. Por exemplo, um modelo pode usar temperatura 0,8 com top-p 0,9, significando que a temperatura é aplicada primeiro, e depois o filtro de núcleo selecciona os tokens mais prováveis que juntos representan 90% da massa de probabilidade.
Em algumas implementações, a temperatura é aplicada antes do filtro top-k ou top-p, enquanto em outras é aplicada depois. A ordem exata pode afetar a distribuição resultante, mas o princípio geral permanece: a temperatura ajusta a aleatoriedad geral, enquanto top-k e top-p focam nos tokens mais prováveis.
Considerações Práticas
Ao implantar LLMs em produção, a temperatura é um parámetro crítico a ajustar. Afeta não só a qualidade das saídas, mas também o custo e a latencia, já que temperaturas mais altas podem levar a uma geração mais longa se o modelo explora caminhos mais diversos. Alguns frameworks, como a biblioteca Hugging Face Transformers, proporcionam suporte integrado para temperatura e outros parámetros de muestreo.
A temperatura também é relevante em fine-tuning e aprendizado por reforço. Durante o treinamento, uma técnica chamada destilação de conhecimento usa uma temperatura para suavizar as distribuciones de saída de um modelo professor, permitendo que um modelo estudante aprenda das saídas probabilísticas do professor. Neste contexto, a temperatura é usada para controlar a 'suavidade' dos rótulos, o que pode melhorar a generalização do estudante.
Contexto Histórico
O uso de temperatura em funções softmax precede os LLMs modernos. Fue introducido no contexto de redes neuronales nos anos 1980 e 1990, notavelmente por pesquisadores como Geoffrey Hinton e outros que trabalhavam em máquinas de Boltzmann e treinamento de redes neuronales. O conceito foi depois adotado em modelos seq2seq e eventualmente se tornou uma característica padrão em LLMs baseados em transformers. A partir do início dos anos 2020, a temperatura é um parámetro omnipresente em APIs de LLM e implementações de código aberto.
Veja Também
- Top-P (Nucleus) Sampling
- Top-K Sampling
- softmax
- logits