L'ingénierie de prompt est la pratique consistant à concevoir et à affiner les entrées en langage naturel données à un modèle d'IA générative afin de produire de manière fiable un résultat souhaité. Elle est apparue comme une compétence distincte et, brièvement, un intitulé de poste, après l'adoption généralisée des grands modèles de langage, car le même modèle sous-jacent peut produire des résultats nettement différents selon la manière dont une tâche est formulée, structurée et présentée.
Techniques
Les techniques courantes d'ingénierie de prompt incluent la fourniture d'exemples travaillés directement dans le prompt, connue sous le nom de apprentissage en quelques exemples, par opposition à la simple fourniture d'une instruction, connue sous le nom de apprentissage en zéro exemple. Le prompt chaîne de pensée, introduit dans un article de 2022, demande au modèle de produire des étapes de raisonnement intermédiaires avant sa réponse finale, ce qui s'est avéré améliorer considérablement les performances sur les tâches arithmétiques et logiques pour des modèles suffisamment grands. D'autres techniques incluent l'attribution d'une personnalité ou d'un rôle au modèle, la spécification d'un format de sortie explicite et la décomposition d'une tâche complexe en une séquence de prompts plus petits. Beaucoup de ces techniques reposent sur l'apprentissage contextuel, la capacité d'un modèle de langage à ajuster son comportement en fonction des informations présentes dans le prompt sans aucune modification de ses poids sous-jacents.
Émergence en tant que discipline
L'intérêt pour l'ingénierie de prompt a connu une croissance rapide après la sortie de GPT-3 en 2020, dont les performances solides en apprentissage en quelques exemples ont fait de la conception de prompts un levier pratique pour créer des applications sans réentraîner un modèle, et s'est accéléré après le lancement de ChatGPT en 2022, qui a apporté le prompting conversationnel à un large public. Des techniques distinctes ont été développées pour différents cas d'utilisation, allant des prompts système structurés qui configurent la personnalité et les contraintes d'un assistant, aux prompts multi-étapes élaborés utilisés pour orienter les modèles de raisonnement et les systèmes d'agents IA à travers des tâches complexes.
Débat sur la durabilité
Les commentateurs ont contesté si l'ingénierie de prompt constitue une discipline durable ou une compétence transitoire qui diminuera à mesure que les modèles deviendront meilleurs pour déduire l'intention de l'utilisateur à partir du langage ordinaire. Les partisans soutiennent que, à mesure que les modèles reçoivent plus d'outils, un contexte plus long et plus d'autonomie, la spécification précise des instructions, des contraintes et des critères de réussite ne fait que gagner en importance. Les sceptiques rétorquent qu'une grande partie de ce qui passait pour de l'ingénierie de prompt dans des modèles antérieurs moins performants, comme les cadres de jeu de rôle élaborés ou les répétitions insistantes, est devenue inutile à mesure que les nouveaux modèles suivent des instructions simples de manière plus fiable. D'ici 2025, certains praticiens avaient commencé à utiliser le terme plus large de ingénierie de contexte pour décrire la discipline consistant à organiser non seulement un prompt unique, mais l'ensemble des informations, exemples et accès aux outils sur lesquels un modèle s'appuie, reflétant le passage à des systèmes agentiques qui opèrent sur plusieurs tours plutôt qu'un échange unique.
Dimension sécuritaire
Parce que les prompts sont le canal principal par lequel le comportement d'un modèle est dirigé, l'ingénierie de prompt a un pendant défensif dans la technique adversarial du jailbreak, où un prompt est délibérément conçu pour contourner l'entraînement à la sécurité d'un modèle plutôt que pour accomplir une tâche légitime.