Agent-Scaffolding ist die Prompt- und Workflow-Struktur, die um ein Modell herum aufgebaut ist, um es als zuverlässigen Agenten agieren zu lassen. In der künstlichen Intelligenz ist ein Agent ein System, das seine Umgebung wahrnimmt, Entscheidungen trifft und Aktionen ausführt, um Ziele zu erreichen. Ein rohes großes Sprachmodell erzeugt Text; Scaffolding transformiert diese Textgenerierungsfähigkeit in eine Schleife aus Beobachtung, Reasoning und Aktion. Diese Struktur umfasst typischerweise einen System-Prompt, eine Reihe verfügbarer Werkzeuge, einen Speichermechanismus und einen Kontrollfluss, der bestimmt, wann das Modell ein Werkzeug aufrufen oder direkt antworten soll.
Der Begriff gewann Mitte der 2020er-Jahre an Bedeutung, als Entwickler erkannten, dass das bloße Auffordern eines Modells, „eine Aufgabe zu erledigen“, für komplexe, mehrstufige Operationen unzureichend war. Scaffolding bietet die notwendigen Leitplanken, Zustandsverwaltung und Fehlerbehandlung. Es ist der Unterschied zwischen einem Chatbot, der Fragen beantwortet, und einem Agenten, der einen Flug bucht, Code schreibt oder ein Forschungsprojekt verwaltet. Das Konzept ist eng mit generativer KI und maschinellem Lernen verwandt, konzentriert sich jedoch auf die technische Ebene um das Modell herum und nicht auf die internen Parameter des Modells.
Historischer Kontext
Die Idee, strukturierte Workflows um KI-Systeme herum aufzubauen, geht dem modernen Deep Learning voraus. Frühe Expertensysteme in den 1970er- und 1980er-Jahren nutzten regelbasiertes Scaffolding, um Domänenwissen zu kodieren. Die moderne Interpretation von Scaffolding entstand jedoch mit dem Aufstieg von Modellen auf Transformer-Basis. 2017 zeigten Forscher bei Google DeepMind und der University of Toronto, dass Aufmerksamkeitsmechanismen langreichweitige Abhängigkeiten bewältigen können, was komplexeres Reasoning ermöglichte. Bis 2020 zeigte GPT-3 von OpenAI, dass große Modelle Anweisungen befolgen können, aber es fehlte die Fähigkeit, mit externen Systemen zu interagieren.
Der Wendepunkt kam mit der Einführung der Werkzeugnutzung. 2021 veröffentlichte OpenAI Codex, das Code in einer Sandbox ausführen konnte. Dies war eine frühe Form von Scaffolding: Das Modell erzeugte Code, das Scaffold führte ihn aus, und die Ausgabe wurde an das Modell zurückgespeist. 2022 führte Anthropic Claude mit einem konstitutionellen KI-Ansatz ein, und bis 2023 hatten sowohl OpenAI als auch Anthropic API-Funktionen für Funktionsaufrufe veröffentlicht. Diese APIs ermöglichten es Entwicklern, Werkzeuge zu definieren, die das Modell aufrufen konnte, und formalisierten damit das Scaffold-Muster.
Kernkomponenten
Ein typisches Agent-Scaffold besteht aus mehreren miteinander verbundenen Teilen. Der System-Prompt legt die Persona, Ziele und Einschränkungen des Agenten fest. Er ist die direkteste Form von Scaffolding und enthält oft detaillierte Anweisungen, wie man sich verhalten soll, welche Werkzeuge verfügbar sind und wie Antworten formatiert werden sollen. Die Werkzeugschicht bietet dem Modell externe Fähigkeiten: Websuche, Codeausführung, Datenbankabfragen, Dateimanipulation oder API-Aufrufe. Jedes Werkzeug wird dem Modell in einem strukturierten Format beschrieben, normalerweise mit einem Namen, einer Beschreibung und einem Parameterschema.
Speicher ist eine weitere kritische Komponente. Da große Sprachmodelle ein festes Kontextfenster haben, muss Scaffolding verwalten, welche Informationen beibehalten werden. Kurzzeitspeicher hält den aktuellen Gesprächsverlauf, während Langzeitspeicher möglicherweise eine Vektordatenbank verwendet, um Einbettungen vergangener Interaktionen zu speichern. Dies ermöglicht es dem Agenten, Fakten über Sitzungen hinweg abzurufen. Kontrollfluss bestimmt die Schleife: Das Modell erhält Eingaben, entscheidet, ob es ein Werkzeug aufruft oder eine endgültige Antwort erzeugt, und das Scaffold führt das Werkzeug aus und gibt das Ergebnis zurück. Diese Schleife wird fortgesetzt, bis das Modell den Abschluss signalisiert.
Werkzeugnutzung und Funktionsaufrufe
Die Werkzeugnutzung ist der sichtbarste Aspekt von Scaffolding. 2023 führte OpenAI Funktionsaufrufe in seiner API ein, die es Modellen ermöglichten, strukturiertes JSON auszugeben, das einen Werkzeugaufruf spezifiziert. Anthropic folgte mit einer ähnlichen Funktion. Diese APIs erleichterten es Entwicklern, Agenten zu bauen, die Datenbanken abfragen, E-Mails senden oder Software steuern konnten. Das Scaffold übernimmt die tatsächliche Ausführung, validiert die Ausgabe des Werkzeugs und gibt sie an das Modell zurück.
Zum Beispiel könnte ein Kundensupport-Agent Werkzeuge zum Nachschlagen von Bestellungen, Verarbeiten von Rückerstattungen und Eskalieren von Problemen haben. Das Modell entscheidet basierend auf der Anfrage des Benutzers, welches Werkzeug aufgerufen wird. Das Scaffold stellt sicher, dass der Werkzeugaufruf sicher ist, dass die Ausgabe innerhalb erwarteter Grenzen liegt und dass das Modell nicht endlos schleift. Dieses Muster ist heute Standard in Agent-Frameworks wie LangChain, AutoGPT und Microsofts Semantic Kernel, obwohl das Konzept von Scaffolding framework-agnostisch ist.
Speicher und Zustandsverwaltung
Speicher ist ein wichtiger Unterscheidungsfaktor zwischen einfachen Chatbots und zuverlässigen Agenten. Ein Scaffold kann verschiedene Speichertypen implementieren. Episodischer Speicher speichert vergangene Interaktionen und ermöglicht es dem Agenten, aus früheren Aufgaben zu lernen. Semantischer Speicher hält Fakten und Wissen, oft in einer Vektordatenbank. Prozeduraler Speicher kodiert, wie bestimmte Aufgaben ausgeführt werden, möglicherweise durch Few-Shot-Beispiele im Prompt.
Zustandsverwaltung ist ebenfalls entscheidend. Ein Agent, der eine mehrstufige Aufgabe ausführt, muss Fortschritt, Zwischenergebnisse und ausstehende Aktionen verfolgen. Das Scaffold könnte eine Zustandsmaschine unterhalten, die gültige Übergänge definiert. Zum Beispiel könnte ein Forschungsagent Zustände wie „Suchen“, „Lesen“, „Zusammenfassen“ und „Berichten“ haben. Das Scaffold stellt sicher, dass der Agent keine Schritte überspringt oder Aktionen unnötig wiederholt. Dies ist besonders wichtig in Produktionssystemen, in denen Zuverlässigkeit oberste Priorität hat.
Planung und Reasoning
Scaffolding umfasst oft explizite Planungsmechanismen. Anstatt das Modell rein reaktiv Aktionen entscheiden zu lassen, kann das Scaffold das Modell auffordern, zuerst einen Plan zu erstellen. Dies wird manchmal als „Plan-and-Execute“ bezeichnet. Das Modell erzeugt eine Liste von Schritten, und das Scaffold führt sie sequenziell aus und hakt jeden Schritt ab. Dies reduziert das Risiko, dass das Modell stecken bleibt oder inkonsistente Entscheidungen trifft.
Reasoning-Techniken wie Chain-of-Thought-Prompting sind ebenfalls Teil von Scaffolding. Indem das Modell gebeten wird, „Schritt für Schritt zu denken“, fördert das Scaffold genaueres Reasoning. Einige Scaffolds verwenden ein „Reflect“-Muster, bei dem das Modell seine eigene Ausgabe überprüft und Fehler korrigiert. Diese Techniken sind nicht neu; sie sind Erweiterungen von Curriculum-Lernen und Verlustfunktionen aus früherer KI-Forschung, werden jedoch auf Inferenzebene angewendet.
Zuverlässigkeit und Sicherheit
Eines der Hauptziele von Scaffolding ist es, Agenten zuverlässig zu machen. Ein rohes Modell könnte halluzinieren, Anweisungen ignorieren oder unsichere Ausgaben erzeugen. Das Scaffold fügt Leitplanken hinzu: Eingabevalidierung, Ausgabefilterung, Ratenbegrenzung und Human-in-the-Loop-Kontrollpunkte. Für Anwendungen mit hohem Risiko wie Gesundheitswesen oder Finanzen könnte das Scaffold eine Genehmigung erfordern, bevor bestimmte Aktionen ausgeführt werden.
Sicherheit ist ebenfalls ein Anliegen. Das Scaffold kann die verfügbaren Werkzeuge für das Modell einschränken, um den Zugriff auf sensible Daten oder destruktive Operationen zu verhindern. Es kann auch das Verhalten des Modells auf Anzeichen von Prompt-Injection oder anderen Angriffen überwachen. Da Agenten autonomer werden, wird das Scaffold zur ersten Verteidigungslinie gegen unbeabsichtigte Folgen.
Frameworks und Implementierungen
Mehrere Open-Source- und kommerzielle Frameworks sind entstanden, um Entwicklern beim Bau von Scaffolds zu helfen. LangChain, veröffentlicht im Oktober 2022 von Harrison Chase, popularisierte das Konzept von Chains und Agenten. AutoGPT, gestartet im März 2023, demonstrierte einen vollständig autonomen Agenten, der ein Ziel in Unteraufgaben zerlegen konnte. Microsofts AutoGen, veröffentlicht 2023, führte Multi-Agenten-Konversationen ein, bei denen mehrere Modelle zusammenarbeiten.
2024 veröffentlichten OpenAI und Anthropic beide Werkzeuge zum Bau von Agenten. OpenAIs Assistants API bot ein gehostetes Scaffold mit Werkzeugen, Speicher und Abruf. Anthropics Claude Code, veröffentlicht 2025, bot eine Befehlszeilenschnittstelle für Codierungsagenten. Diese Produkte abstrahieren viel von der Komplexität, aber die zugrunde liegenden Prinzipien bleiben gleich. Die Wahl des Frameworks hängt oft vom spezifischen Anwendungsfall, den Latenzanforderungen und dem Bedarf an Anpassung ab.
Herausforderungen und Einschränkungen
Trotz Fortschritten steht Scaffolding vor mehreren Herausforderungen. Kontextfensterlimits bleiben ein Engpass; selbst mit großen Kontexten können komplexe Aufgaben die Kapazität des Modells überschreiten. Latenz ist ein weiteres Problem: Jeder Werkzeugaufruf fügt Roundtrip-Zeit hinzu, was Agenten langsamer macht als direkte Antworten. Kosten skalieren mit der Anzahl verarbeiteter Tokens, sodass ausführliche Scaffolds teuer sein können. Fehlerfortpflanzung ist ein Anliegen: Ein einzelner Fehler in einem frühen Schritt kann kaskadieren und zu falschen Endergebnissen führen.
Eine weitere Herausforderung ist die Evaluierung. Wie misst man die Zuverlässigkeit eines Agenten? Traditionelle Metriken wie Genauigkeit bei Benchmarks sind unzureichend. Forscher haben neue Benchmarks wie AgentBench und SWE-bench vorgeschlagen, aber sie sind noch nicht standardisiert. Das Feld ist noch jung, und bewährte Praktiken entwickeln sich weiter.
Zukunftsrichtungen
Die Zukunft von Agent-Scaffolding beinhaltet wahrscheinlich ausgefeiltere Speichersysteme, bessere Planungsalgorithmen und eine engere Integration mit dem Modell selbst. Einige Forscher untersuchen gelernte Scaffolds, bei denen der Kontrollfluss durch Reinforcement Learning optimiert wird, anstatt manuell kodiert zu werden. Andere untersuchen Multi-Agenten-Systeme, bei denen mehrere Modelle mit unterschiedlichen Spezialisierungen unter einem zentralen Scaffold zusammenarbeiten.
Da Modelle leistungsfähiger werden, könnte das Scaffold einfacher werden, aber es wird nicht verschwinden. Selbst ein perfektes Modell braucht eine Möglichkeit, mit der Welt zu interagieren. Das Scaffold ist die Brücke zwischen den internen Repräsentationen des Modells und der externen Realität. In diesem Sinne ist es ein grundlegender Bestandteil jedes KI-Agenten, und seine Bedeutung wird nur wachsen, da Agenten in mehr Bereichen eingesetzt werden.
Fazit
Agent-Scaffolding ist die technische Disziplin, zuverlässige KI-Agenten zu bauen. Es umfasst Prompt-Design, Werkzeugintegration, Speicherverwaltung und Kontrollfluss. Während die zugrunde liegenden Modelle leistungsfähig sind, sind sie nicht standardmäßig autonom; Scaffolding bietet die Struktur, die ein Sprachmodell in einen nützlichen Agenten verwandelt. Da sich das Feld weiterentwickelt, können wir standardisiertere Frameworks, bessere Evaluierungsmethoden und ein tieferes Verständnis dafür erwarten, wie man Scaffolds entwirft, die sowohl effektiv als auch sicher sind.