L'utilisation d'outils, également appelée appel de fonction, est la capacité qui permet à un grand modèle de langage d'invoquer une fonction externe, une API, ou un programme de manière structurée dans le cadre de la génération d'une réponse. Au lieu de produire uniquement du texte en langage naturel, un modèle avec utilisation d'outils peut produire une demande structurée, généralement formatée comme quelque chose ressemblant à un appel de fonction avec des arguments nommés, qu'une application environnante exécute au nom du modèle; le résultat est ensuite renvoyé au modèle, souvent réinséré dans sa fenêtre de contexte, afin qu'il puisse intégrer cette information dans sa réponse finale ou décider d'une action supplémentaire. L'utilisation d'outils est le mécanisme de base par lequel un agent d'IA interagit avec tout ce qui se trouve en dehors de sa propre génération de texte, y compris les bases de données, les calculatrices, les moteurs de recherche, les environnements d'exécution de code, et d'autres logiciels.
Développement
Les premiers modèles de langage ne pouvaient produire que du texte brut, donc toute interaction avec des systèmes externes devait être gérée en analysant une sortie libre et en espérant qu'elle corresponde à un motif attendu, une approche peu fiable. L'appel de fonction structuré a été introduit comme une fonctionnalité de première classe des modèles par les principaux laboratoires à partir de 2023, avec des fournisseurs entraînant des modèles spécifiquement pour émettre des appels bien formés à un ensemble d'outils décrits dans le prompt, ainsi que des schémas correspondants qui contraignent les arguments qu'un appel peut contenir. Cela a rendu l'utilisation d'outils considérablement plus fiable et l'a transformée en une capacité standard sur essentiellement tous les modèles de chat et d'API de pointe d'ici 2024, parallèlement à des efforts plus larges, y compris Anthropic's protocole de contexte de modèle introduit en novembre 2024, pour standardiser la manière dont les outils sont décrits et connectés aux modèles à travers différents fournisseurs et applications
Comment cela fonctionne en pratique
Un échange typique d'utilisation d'outils a trois parties. Premièrement, l'application appelante décrit les outils disponibles au modèle, généralement comme une liste de noms de fonctions, descriptions, et types d'arguments attendus, incluse dans ou à côté du prompt. Deuxièmement, lorsque le modèle détermine que répondre à la demande de l'utilisateur nécessite une information ou une action qu'il ne peut pas produire lui-même, comme rechercher des données actuelles ou effectuer un calcul précis, il émet un appel structuré à l'outil pertinent plutôt qu'une réponse en langage naturel. Troisièmement, l'application exécute cet appel en dehors du modèle, et le résultat est réinjecté dans la conversation, après quoi le modèle peut l'utiliser pour composer une réponse finale ou émettre un autre appel. Cette boucle peut se répéter de nombreuses fois dans une seule tâche agentique, et les modèles sont généralement entraînés à décider indépendamment quand un appel d'outil est nécessaire par rapport à quand ils peuvent répondre directement à partir de leurs propres connaissances
Applications
L'utilisation d'outils sous-tend une large gamme de systèmes pratiques: un modèle peut recevoir une fonction de recherche web pour répondre à des questions sur des événements récents, un outil d'exécution de code pour exécuter et vérifier un calcul ou un morceau de code généré, un outil de requête de base de données pour rechercher des enregistrements spécifiques, ou un appel API pour effectuer une action telle que envoyer un message ou mettre à jour un enregistrement dans un système externe. C'est également la fondation des pipelines de génération augmentée par récupération qui exposent la récupération comme un outil appelable, et des systèmes de utilisation d'ordinateur, où l'"outil" est le contrôle d'une interface graphique telle qu'une souris et un clavier plutôt qu'une API étroite
Fiabilité et sécurité
L'utilisation d'outils introduit des modes de défaillance que la génération de texte brut n'a pas, puisqu'un modèle peut appeler le mauvais outil, fournir des arguments malformés ou hallucinés, ou appeler un outil un nombre inhabituellement élevé de fois dans une boucle. Parce que les appels d'outils peuvent avoir des effets secondaires dans le monde réel, allant de l'envoi d'un courriel à l'exécution de code arbitraire, l'utilisation d'outils soulève également des questions de sécurité distinctes, y compris comment empêcher un modèle d'être manipulé par un contenu adversarial pour abuser d'un outil disponible, un motif d'attaque étroitement associé à la injection de prompt. Les systèmes de production abordent généralement cela avec une limitation de permissions, des étapes de confirmation humaine pour les actions conséquentes, et un sandboxing de tout outil qui exécute du code ou accède à des données sensibles.