Un prompt es la entrada en lenguaje natural que se le da a un modelo de IA generativa, como un modelo de lenguaje grande o un generador de imágenes, para obtener una salida deseada. Los prompts pueden ir desde una única instrucción breve hasta especificaciones elaboradas de múltiples partes que incluyen ejemplos, restricciones y requisitos de formato.
Tipos de prompts
Los prompts adoptan varias formas distintas según la interacción. Un prompt de sistema establece instrucciones persistentes y una persona para toda una conversación, normalmente oculto al usuario final, mientras que la entrada conversacional ordinaria se suele llamar prompt de usuario. En la generación de imágenes y vídeos, un prompt negativo especifica lo que debe excluirse de la salida, por separado del prompt descriptivo principal. Los prompts que incluyen ejemplos trabajados del comportamiento deseado de entrada-salida se describen como prompts de aprendizaje con pocos ejemplos, en contraste con los prompts de cero ejemplos que solo proporcionan una instrucción.
Ingeniería de prompts
La práctica de elaborar prompts deliberadamente para producir salidas de mejor calidad de forma fiable se conoce como ingeniería de prompts. Técnicas como el prompting de cadena de pensamiento, que pide a un modelo que razone paso a paso antes de responder, surgieron de la observación empírica de que la redacción y la estructura de un prompt pueden cambiar sustancialmente la calidad de la salida de un modelo, incluso cuando el modelo subyacente no cambia. Esta sensibilidad está estrechamente relacionada con el aprendizaje en contexto, la capacidad de los modelos de lenguaje de adaptar su comportamiento basándose en la información presente en el propio prompt, sin ninguna actualización de sus pesos subyacentes.
Riesgos
Dado que los prompts son la interfaz principal a través de la cual los usuarios y, cada vez más, los datos externos controlan el comportamiento de un modelo, también son una superficie de ataque significativa. Un jailbreak es un prompt diseñado para eludir el entrenamiento de seguridad de un modelo, mientras que la inyección de prompts se refiere a instrucciones maliciosas ocultas en contenido que un modelo procesa, como una página web o un documento, que pueden secuestrar el comportamiento de un sistema de IA sin el conocimiento del usuario. La inyección de prompts se ha convertido en una preocupación especialmente grave a medida que los sistemas de agentes de IA reciben la capacidad de realizar acciones en el mundo real, ya que una inyección exitosa puede hacer que un agente use mal sus herramientas en lugar de simplemente producir texto deficiente.
Importancia
La centralidad de los prompts en el uso de los sistemas de IA generativa ha dado lugar a comunidades informales y mercados dedicados a compartir, refinar y comercializar prompts efectivos, junto con un interés académico en comprender por qué ciertas redacciones tienen éxito o fracasan. Algunos investigadores sostienen que, a medida que los modelos se vuelven más capaces y mejores para inferir la intención, el valor de la elaboración manual de prompts disminuirá en relación con prácticas más amplias que a veces se describen como ingeniería de contexto, que se ocupa de seleccionar el conjunto más completo de información, herramientas e historial al que un modelo tiene acceso, no solo la instrucción inmediata.