Une invite est l'entrée en langage naturel donnée à un modèle d'IA générative, tel qu'un grand modèle de langage ou un générateur d'images, pour susciter une sortie souhaitée. Les invites vont d'une simple instruction courte à des spécifications élaborées en plusieurs parties qui incluent des exemples, des contraintes et des exigences de formatage.
Types d'invites
Les invites prennent plusieurs formes distinctes selon l'interaction. Une invite système définit des instructions persistantes et une personnalité pour toute une conversation, généralement cachée à l'utilisateur final, tandis que l'entrée conversationnelle ordinaire est souvent appelée une invite utilisateur. Dans la génération d'images et de vidéos, une invite négative spécifie ce qui doit être exclu de la sortie, séparément de l'invite descriptive principale. Les invites qui incluent des exemples travaillés du comportement d'entrée-sortie souhaité sont décrites comme des invites apprentissage en quelques exemples, par opposition aux invites zéro-shot qui ne fournissent qu'une instruction.
Ingénierie des invites
La pratique consistant à élaborer délibérément des invites pour produire de manière fiable de meilleures sorties est connue sous le nom d'ingénierie des invites. Des techniques telles que le raisonnement en chaîne de pensée, qui demande à un modèle de raisonner étape par étape avant de répondre, sont issues de l'observation empirique que la formulation et la structure d'une invite peuvent modifier considérablement la qualité de la sortie d'un modèle, même lorsque le modèle sous-jacent est inchangé. Cette sensibilité est étroitement liée à l'apprentissage contextuel, la capacité des modèles de langage à adapter leur comportement en fonction des informations présentes dans l'invite elle-même, sans aucune mise à jour de leurs poids sous-jacents.
Risques
Parce que les invites sont l'interface principale par laquelle les utilisateurs et, de plus en plus, les données externes contrôlent le comportement d'un modèle, elles constituent également une surface d'attaque significative. Un contournement est une invite conçue pour contourner l'entraînement à la sécurité d'un modèle, tandis que l'injection d'invite fait référence à des instructions malveillantes cachées dans un contenu qu'un modèle traite, comme une page web ou un document, qui peuvent détourner le comportement d'un système d'IA sans que l'utilisateur en ait connaissance. L'injection d'invite est devenue une préoccupation particulièrement sérieuse à mesure que les systèmes agent IA reçoivent la capacité de prendre des actions dans le monde réel, car une injection réussie peut amener un agent à abuser de ses outils plutôt qu'à simplement produire un mauvais texte.
Importance
La centralité des invites dans la manière dont les systèmes d'IA générative sont utilisés a donné naissance à des communautés informelles et à des marchés dédiés au partage, au raffinement et à l'échange d'invites efficaces, parallèlement à un intérêt académique pour comprendre pourquoi certaines formulations réussissent ou échouent. Certains chercheurs soutiennent qu'à mesure que les modèles deviennent plus capables et meilleurs pour inférer l'intention, la valeur de l'élaboration manuelle d'invites diminuera par rapport à des pratiques plus larges parfois décrites comme ingénierie contextuelle, qui concernent la curation de l'ensemble plus complet d'informations, d'outils et d'historique auxquels un modèle a accès, et pas seulement l'instruction immédiate.