Um prompt é a entrada em linguagem natural fornecida a um modelo de IA generativa, como um modelo de linguagem de grande porte ou um gerador de imagens, para eliciar uma saída desejada. Prompts variam de uma única instrução curta a especificações elaboradas e multipartes que incluem exemplos, restrições e requisitos de formatação.
Tipos de prompts
Os prompts assumem várias formas distintas dependendo da interação. Um prompt de sistema define instruções persistentes e uma persona para toda uma conversa, tipicamente oculto do usuário final, enquanto a entrada conversacional comum é frequentemente chamada de prompt de usuário. Na geração de imagens e vídeos, um prompt negativo especifica o que deve ser excluído da saída, separadamente do prompt descritivo principal. Prompts que incluem exemplos trabalhados do comportamento desejado de entrada-saída são descritos como prompts de aprendizado com poucos exemplos, em contraste com prompts de zero disparos que fornecem apenas uma instrução.
Engenharia de prompts
A prática de criar prompts deliberadamente para produzir saídas melhores de forma confiável é conhecida como engenharia de prompts. Técnicas como o prompting de cadeia de pensamento, que pede ao modelo para raciocinar passo a passo antes de responder, emergiram da observação empírica de que a formulação e a estrutura de um prompt podem alterar substancialmente a qualidade da saída de um modelo, mesmo quando o modelo subjacente permanece inalterado. Essa sensibilidade está intimamente relacionada ao aprendizado no contexto, a capacidade dos modelos de linguagem de adaptar seu comportamento com base nas informações presentes no próprio prompt, sem qualquer atualização em seus pesos subjacentes.
Riscos
Como os prompts são a principal interface através da qual usuários e, cada vez mais, dados externos controlam o comportamento de um modelo, eles também são uma superfície de ataque significativa. Um quebra de segurança é um prompt criado para contornar o treinamento de segurança de um modelo, enquanto a injeção de prompt refere-se a instruções maliciosas ocultas em conteúdo que um modelo processa, como uma página da web ou documento, que podem sequestrar o comportamento de um sistema de IA sem o conhecimento do usuário. A injeção de prompt tornou-se uma preocupação particularmente séria à medida que sistemas de agentes de IA recebem a capacidade de realizar ações no mundo real, já que uma injeção bem-sucedida pode fazer um agente usar suas ferramentas de forma inadequada, em vez de simplesmente produzir texto ruim.
Significância
A centralidade dos prompts na forma como os sistemas de IA generativa são usados deu origem a comunidades informais e mercados dedicados a compartilhar, refinar e negociar prompts eficazes, juntamente com interesse acadêmico em entender por que certas formulações têm sucesso ou falham. Alguns pesquisadores argumentam que, à medida que os modelos se tornam mais capazes e melhores em inferir intenções, o valor da criação manual de prompts diminuirá em relação a práticas mais amplas, às vezes descritas como engenharia de contexto, que dizem respeito à curadoria do conjunto mais completo de informações, ferramentas e histórico aos quais um modelo tem acesso, não apenas à instrução imediata.