El aprendizaje zero-shot es la capacidad de un modelo para realizar correctamente una tarea sin haber visto ejemplos etiquetados de esa tarea específica, ya sea durante el entrenamiento o en su prompt. En el contexto de los modelos de lenguaje grandes, el uso zero-shot típicamente significa dar al modelo solo una instrucción, como "traduce esta frase al francés" o "clasifica esta reseña como positiva o negativa", y esperar una respuesta correcta sin demostraciones adjuntas. El término precede a los modelos de lenguaje grandes y fue utilizado originalmente en visión por computadora y aprendizaje automático clásico para describir clasificadores que podían reconocer categorías nunca presentes en sus datos de entrenamiento, usualmente relacionando una nueva etiqueta con conocidas mediante información auxiliar como descripciones de texto o atributos.
En modelos de lenguaje
El rendimiento zero-shot moderno en modelos de lenguaje se basa en dos desarrollos. Primero, el preentrenamiento a gran escala en corpus de texto amplios expone al modelo a una enorme variedad de formatos de tareas, frases y géneros, de modo que una instrucción novedosa a menudo se asemeja a algo que el modelo aprendió implícitamente a hacer durante el entrenamiento incluso sin un ejemplo dedicado. Segundo, el ajuste por instrucciones y las técnicas de alineación como RLHF entrenan explícitamente a los modelos para seguir instrucciones en lenguaje natural en lugar de solo continuar texto de manera estilísticamente plausible, lo cual es lo que hizo que asistentes conversacionales como ChatGPT fueran utilizables directamente desde una solicitud en lenguaje plano. Antes de este segundo paso, los modelos base estilo GPT-3 a menudo podían ser inducidos a realizar una tarea zero-shot, pero seguir de manera confiable y útil una instrucción arbitraria sin ejemplos mejoró considerablemente una vez que el ajuste por instrucciones se convirtió en práctica estándar en toda la industria
Zero-shot versus few-shot
El aprendizaje zero-shot se discute usualmente junto con aprendizaje few-shot y aprendizaje en contexto como un punto en un espectro definido por cuántas demostraciones de tarea aparecen en el prompt: cero para zero-shot, un puñado para few-shot. El artículo de GPT-3 informó que el prompting few-shot generalmente superaba al prompting zero-shot en el mismo modelo base, especialmente para tareas con un formato de salida inusual, pero la brecha se ha reducido para modelos de chat bien alineados en tareas comunes, ya que esos modelos están entrenados específicamente para interpretar y actuar sobre instrucciones sin adornos. El prompting zero-shot sigue siendo el modo predeterminado de interacción para la mayoría del uso de chatbots de consumo, ya que pedir al usuario que proporcione ejemplos antes de cada solicitud sería una carga de interfaz irrazonable
Chain-of-thought y razonamiento zero-shot
Una extensión notable es el prompting zero-shot de cadena de pensamiento, en el cual añadir una frase simple como "pensemos paso a paso" a una instrucción zero-shot mejora mediblemente la precisión en tareas de razonamiento aritmético y lógico, sin proporcionar ejemplos resueltos. Este hallazgo, reportado por investigadores en 2022, mostró que la capacidad de razonamiento elicitada mediante demostraciones few-shot en trabajos anteriores a menudo podía ser activada zero-shot también, simplemente pidiendo al modelo que externalice pasos intermedios, y alimentó directamente en la filosofía de diseño detrás de sistemas posteriores dedicados de modelos de razonamiento.
Limitaciones
El rendimiento zero-shot es desigual: tiende a ser más fuerte en tareas que son comunes en lenguaje natural (resumen, traducción, clasificación de sentimientos)y más débil en tareas que requieren formatos de salida precisos, poco familiares o convenciones específicas de dominio a las que el modelo tiene poca exposición. Las instrucciones ambiguas también pueden ser interpretadas de manera diferente a lo previsto sin ejemplos que anclen la comprensión del modelo, lo cual es una razón por la que la práctica de ingeniería de prompts a menudo recomienda añadir al menos algunas demostraciones, un mensaje de sistema, o reglas de formato explícitas para tareas donde la fiabilidad importa. La capacidad zero-shot también se utiliza frecuentemente como lente de evaluación en benchmarks académicos, ya que mide más directamente la generalización del modelo desde el preentrenamiento que las puntuaciones few-shot, las cuales pueden ser infladas por ejemplos que coinciden estrechamente con la distribución de prueba.