L'apprentissage zero-shot est la capacité d'un modèle à exécuter correctement une tâche sans avoir vu d'exemples étiquetés de cette tâche spécifique, que ce soit pendant l'entraînement ou dans son prompt. Dans le contexte des grands modèles de langage, l'utilisation zero-shot signifie généralement donner au modèle uniquement une instruction, comme « traduisez cette phrase en français » ou « classez cet avis comme positif ou négatif », et attendre une réponse correcte sans démonstrations jointes. Le terme précède les grands modèles de langage et a été initialement utilisé en vision par ordinateur et en apprentissage automatique classique pour décrire des classifieurs capables de reconnaître des catégories jamais présentes dans leurs données d'entraînement, généralement en reliant une nouvelle étiquette à des étiquettes connues via des informations auxiliaires telles que des descriptions textuelles ou des attributs.
Dans les modèles de langage
La performance zero-shot moderne dans les modèles de langage repose sur deux développements. Premièrement, le pré-entraînement à grande échelle sur de vastes corpus de texte expose un modèle à une gamme énorme de formats de tâches, de formulations et de genres, de sorte qu'une instruction nouvelle ressemble souvent à quelque chose que le modèle a implicitement appris à faire pendant l'entraînement, même sans exemple dédié. Deuxièmement, les techniques d'ajustement par instructions et d'alignement telles que le RLHF entraînent explicitement les modèles à suivre des instructions en langage naturel plutôt qu'à seulement continuer le texte de manière stylistiquement plausible, ce qui a rendu les assistants conversationnels comme ChatGPT utilisables directement à partir d'une demande en langage simple. Avant cette deuxième étape, les modèles de base de type GPT-3 pouvaient souvent être amenés à effectuer une tâche en zero-shot, mais suivre de manière fiable et utile une instruction arbitraire sans exemples s'est considérablement amélioré une fois que l'ajustement par instructions est devenu une pratique standard dans l'industrie.
Zero-shot versus few-shot
L'apprentissage zero-shot est généralement discuté aux côtés du few-shot et de l'apprentissage en contexte comme un point sur un spectre défini par le nombre de démonstrations de tâches apparaissant dans le prompt : zéro pour le zero-shot, quelques-unes pour le few-shot. L'article sur GPT-3 a rapporté que le prompting few-shot surpassait généralement le prompting zero-shot sur le même modèle de base, en particulier pour les tâches avec un format de sortie inhabituel, mais l'écart s'est réduit pour les modèles de chat bien alignés sur des tâches courantes, car ces modèles sont entraînés spécifiquement à interpréter et à agir sur des instructions sans fioritures. Le prompting zero-shot reste le mode d'interaction par défaut pour la plupart des utilisations de chatbot grand public, car demander à un utilisateur de fournir des exemples avant chaque requête serait une charge d'interface déraisonnable.
Chaîne de pensée et raisonnement zero-shot
Une extension notable est le prompting zero-shot de chaîne de pensée, dans lequel l'ajout d'une phrase simple comme « réfléchissons étape par étape » à une instruction zero-shot améliore de manière mesurable la précision sur les tâches de raisonnement arithmétique et logique, sans fournir d'exemples résolus. Cette découverte, rapportée par des chercheurs en 2022, a montré que la capacité de raisonnement suscitée par des démonstrations few-shot dans des travaux antérieurs pouvait souvent être déclenchée également en zero-shot, simplement en incitant le modèle à externaliser les étapes intermédiaires, et elle a directement alimenté la philosophie de conception derrière les systèmes dédiés ultérieurs de modèles de raisonnement.
Limites
La performance zero-shot est inégale : elle tend à être la plus forte sur les tâches courantes en langage naturel (résumé, traduction, classification de sentiments) et plus faible sur les tâches nécessitant des formats de sortie précis et inhabituels ou des conventions spécifiques à un domaine auxquelles le modèle a peu d'exposition. Des instructions ambiguës peuvent également être interprétées différemment de ce qui est prévu sans exemples pour ancrer la compréhension du modèle, ce qui est l'une des raisons pour lesquelles la pratique du ingénierie de prompt recommande souvent d'ajouter au moins quelques démonstrations, un message système ou des règles de formatage explicites pour les tâches où la fiabilité compte. La capacité zero-shot est également fréquemment utilisée comme lentille d'évaluation dans les benchmarks académiques, car elle mesure plus directement la généralisation d'un modèle à partir du pré-entraînement que les scores few-shot, qui peuvent être gonflés par des exemples qui correspondent étroitement à la distribution de test.