Tool-Nutzung, auch Funktionsaufruf genannt, ist die Fähigkeit, die es einem großen Sprachmodell ermöglicht, eine externe Funktion, API oder ein Programm auf strukturierte Weise als Teil der Generierung einer Antwort aufzurufen. Anstatt nur natürlichsprachlichen Text zu erzeugen, kann ein Modell mit Tool-Nutzung eine strukturierte Anfrage ausgeben, die typischerweise einem Funktionsaufruf mit benannten Argumenten ähnelt und die eine umgebende Anwendung im Namen des Modells ausführt; das Ergebnis wird dann an das Modell zurückgegeben, oft wieder in seinen Kontextfenster eingefügt, sodass es diese Informationen in seine endgültige Antwort einbeziehen oder über eine weitere Aktion entscheiden kann. Tool-Nutzung ist der grundlegende Mechanismus, durch den ein KI-Agent mit allem außerhalb seiner eigenen Textgenerierung interagiert, einschließlich Datenbanken, Taschenrechnern, Suchmaschinen, Codeausführungsumgebungen und anderer Software.
Entwicklung
Frühe Sprachmodelle konnten nur einfachen Text erzeugen, sodass jede Interaktion mit externen Systemen durch das Parsen von Freitextausgaben und die Hoffnung, dass diese einem erwarteten Muster entsprachen, gehandhabt werden musste – ein unzuverlässiger Ansatz. Strukturierte Funktionsaufrufe wurden ab 2023 von großen Laboren als erstklassige Modellfunktion eingeführt, wobei Anbieter Modelle gezielt darauf trainierten, wohlgeformte Aufrufe an eine Reihe von im Prompt beschriebenen Tools auszugeben, zusammen mit passenden Schemata, die die Argumente eines Aufrufs einschränken. Dies machte Tool-Nutzung erheblich zuverlässiger und verwandelte sie bis 2024 in eine Standardfähigkeit praktisch aller führenden Chat- und API-Modelle, neben breiteren Bemühungen, einschließlich Anthropics Model Context Protocol, das im November 2024 eingeführt wurde, um zu standardisieren, wie Tools über verschiedene Anbieter und Anwendungen hinweg beschrieben und mit Modellen verbunden werden.
So funktioniert es in der Praxis
Ein typischer Tool-Nutzungs-Austausch besteht aus drei Teilen. Zuerst beschreibt die aufrufende Anwendung dem Modell die verfügbaren Tools, normalerweise als Liste von Funktionsnamen, Beschreibungen und erwarteten Argumenttypen, die in oder neben dem Prompt enthalten sind. Zweitens, wenn das Modell feststellt, dass die Beantwortung der Benutzeranfrage Informationen oder eine Aktion erfordert, die es nicht selbst erzeugen kann, wie das Nachschlagen aktueller Daten oder die Durchführung einer präzisen Berechnung, gibt es einen strukturierten Aufruf an das relevante Tool aus, anstatt eine natürlichsprachliche Antwort zu liefern. Drittens führt die Anwendung diesen Aufruf außerhalb des Modells aus, und das Ergebnis wird in die Konversation zurückgespeist, wonach das Modell es verwenden kann, um eine endgültige Antwort zu verfassen oder einen weiteren Aufruf zu tätigen. Diese Schleife kann sich innerhalb einer einzelnen agentischen Aufgabe viele Male wiederholen, und Modelle werden typischerweise darauf trainiert, unabhängig zu entscheiden, wann ein Tool-Aufruf erforderlich ist, im Gegensatz zu einer direkten Antwort aus ihrem eigenen Wissen.
Anwendungen
Tool-Nutzung liegt einer breiten Palette praktischer Systeme zugrunde: Ein Modell kann eine Websuchfunktion erhalten, um Fragen zu aktuellen Ereignissen zu beantworten, ein Codeausführungstool, um eine Berechnung oder ein Stück generierten Codes auszuführen und zu verifizieren, ein Datenbankabfragetool, um bestimmte Datensätze nachzuschlagen, oder einen API-Aufruf, um eine Aktion wie das Senden einer Nachricht oder das Aktualisieren eines Datensatzes in einem externen System durchzuführen. Sie ist auch die Grundlage von Retrieval-Augmented-Generation-Pipelines, die Abruf als aufrufbares Tool bereitstellen, sowie von Computer-Use-Systemen, bei denen das „Tool“ die Steuerung einer grafischen Oberfläche wie Maus und Tastatur ist, anstatt einer engen API.
Zuverlässigkeit und Sicherheit
Tool-Nutzung führt Fehlermodi ein, die die reine Textgenerierung nicht hat, da ein Modell das falsche Tool aufrufen, fehlerhafte oder halluzinierte Argumente liefern oder ein Tool ungewöhnlich oft in einer Schleife aufrufen kann. Da Tool-Aufrufe reale Nebenwirkungen haben können, vom Senden einer E-Mail bis zur Ausführung beliebigen Codes, wirft Tool-Nutzung auch besondere Sicherheitsfragen auf, einschließlich der Frage, wie verhindert werden kann, dass ein Modell durch adversarische Inhalte manipuliert wird, um ein verfügbares Tool zu missbrauchen – ein Angriffsmuster, das eng mit Prompt-Injection verbunden ist. Produktionssysteme adressieren dies typischerweise mit Berechtigungseinschränkungen, menschlichen Bestätigungsschritten für folgenreiche Aktionen und der Sandboxing-Umgebung jedes Tools, das Code ausführt oder auf sensible Daten zugreift.