Un invite système est un ensemble d'instructions données à un modèle d'IA conversationnel avant la saisie de l'utilisateur, établissant la personnalité du modèle, ses règles comportementales et le cadrage de la tâche pour le reste de l'interaction. Contrairement à un message utilisateur ordinaire, un invite système est généralement défini par le développeur de l'application plutôt que par l'utilisateur final et n'est pas habituellement affiché dans la conversation visible.
Fonction
Les invites système sont utilisés pour configurer la manière dont un assistant doit se comporter sur l'ensemble d'une session : quel ton adopter, quels sujets éviter, quel format de sortie suivre, et quelle personnalité, s'il y en a une, présenter. Les produits construits sur des modèles de langage de grande taille, notamment ChatGPT et Claude, exposent des formes de ce mécanisme aux utilisateurs finaux aussi, permettant des « instructions personnalisées » qui persistent d'une conversation à l'autre sans avoir à être retapées à chaque fois. Les développeurs créant des applications sur une API d'agent IA ou de chatbot s'appuient fortement sur les invites système pour différencier le comportement de leur produit du comportement par défaut du modèle sous-jacent, même lorsque plusieurs produits reposent sur le même modèle de base.
Relation avec l'entraînement de sécurité
Les invites système sont adjacents à la sécurité comportementale enseignée pendant l'entraînement d'un modèle, mais ils en restent distincts, par exemple pour RLHF ou IA constitutionnelle. Un invite système bien conçu peut ajouter des contraintes supplémentaires par-dessus les paramètres par défaut entraînés du modèle, mais ne peut pas entièrement annuler un comportement que le modèle a été entraîné à refuser, et la réciproque ne tient pas toujours : un invite système mal conçu peut, par inadvertance, affaiblir l'observance du modèle à son comportement de sécurité entraîné. En raison de cette interaction, les fournisseurs publient des directives sur la rédaction d'invites système qui renforcent, plutôt qu'un conflit, la formation du modèle.
Conséquences en matière de sécurité
Étant donné que les invites système codent souvent des instructions propriétaires d'un produit, les extraire ou les passer outre est devenu une cible courante pour les utilisateurs adverses. Une chicaine évasion peut tenter de convaincre un modèle d'ignorer entièrement son invite système, tandis que les attaques par injection d'invites intègrent des instructions dans des contenus externes traités par le modèle, visant à remplacer écrasent l'autorité de l'invite système par un contenu jamais destiné à porter des instructions. Des contrôles de moderation en contre-mesures|modération en couches sont fréquemment déployés aux côtés des invites système, précisément pour détecter les cas où les instructions fondées sur l'invite ne sont pas respectées.
Utilisation dans les systèmes agentiques
À mesure que les modèles de langage sont intégrés dans des systèmes agents capables d'utiliser des outils et de prendre des actions en plusieurs étapes, les invites système sont devenus plus longs et plus structurés, spécifiant souvent des outils disponibles, des schémas de sortie et des procédures décisionnelles explicites plutôt que de simples recommandations comportementales. Ce changement a rendu la conception d'invites système un aspect important montrant des systèmes de production IA fiables, distinct de la pratique plus exploratoire d'ingénierie d'invites du côté des utilisateurs finaux.