Agentic KI, auch als KI-Agenten bekannt, beschreibt Systeme der künstlichen Intelligenz, die autonom Ziele verfolgen, indem sie ihre Umgebung wahrnehmen, Entscheidungen treffen und über längere Zeiträume hinweg handeln. Dieses Konzept erweitert die allgemeinere Vorstellung eines intelligenten Agenten, also einer Entität, die ihre Umgebung wahrnimmt, handelt, um Ziele zu erreichen, und ihre Leistung durch maschinelles Lernen oder Wissenserwerb verbessern kann. In KI-Lehrbüchern wird das Gebiet der künstlichen Intelligenz oft als die Untersuchung und das Design intelligenter Agenten definiert, wobei zielgerichtetes Verhalten als zentral für Intelligenz angesehen wird.
Intelligente Agenten reichen von einfachen Steuerungssystemen, wie einem Thermostat, bis hin zu komplexen Entitäten wie einem Menschen, einem Unternehmen oder einem Staat. Agentic KI betont insbesondere proaktive und anhaltende Autonomie und unterscheidet sich damit von reaktiven Systemen, die lediglich auf unmittelbare Eingaben reagieren. Diese Agenten arbeiten auf der Grundlage einer Zielfunktion, die ihre Ziele verkörpert, und sind darauf ausgelegt, Pläne zu erstellen und auszuführen, die den erwarteten Wert dieser Funktion bei Abschluss maximieren.
Agentenbasierte Definition der künstlichen Intelligenz
Stuart Russell und Peter Norvig beschreiben in ihrem einflussreichen Lehrbuch künstliche Intelligenz als die Untersuchung von Agenten, die Wahrnehmungen aus einer Umgebung empfangen und Aktionen ausführen. In diesem Rahmen nimmt ein Agent über Sensoren wahr und handelt über Aktuatoren. Ein rationaler Agent wählt Aktionen aus, von denen erwartet wird, dass sie sein Leistungsmaß maximieren, gegeben seine Wahrnehmungssequenz, sein Vorwissen und die verfügbaren Aktionen. Rationalität erfordert keine Allwissenheit oder garantierten Erfolg; sie betrifft das erwartete Ergebnis auf der Grundlage der verfügbaren Informationen.
In der agentenorientierten Informatik werden Agenten durch Eigenschaften wie Autonomie, Reaktionsfähigkeit auf Umweltveränderungen und zielgerichtetes oder proaktives Verhalten charakterisiert. Ein Modellierungsansatz ist die Belief-Desire-Intention-Architektur (BDI), die einen Agenten anhand seiner Informationen über die Welt, seiner Ziele und der Handlungsabläufe, auf die er sich festgelegt hat, darstellt. Diese Architektur war sowohl in der theoretischen als auch in der angewandten KI-Forschung einflussreich.
Zielfunktionen und Zielspezifikation
Eine Zielfunktion spezifiziert die Ziele eines intelligenten Agenten. Ein Agent gilt als intelligenter, wenn er konsequent Aktionen auswählt, die Ergebnisse erzielen, die besser mit seiner Zielfunktion übereinstimmen. Die Zielfunktion dient als Maß für den Erfolg und kann einfach oder komplex sein. Beispielsweise könnte die Zielfunktion in einem Go-Spiel einen Wert von 1 für einen Sieg und 0 für eine Niederlage zuweisen, während die Zielfunktion eines selbstfahrenden Autos Sicherheit, Geschwindigkeit und Fahrgastkomfort abwägen könnte.
Verschiedene Begriffe beschreiben dieses Konzept je nach Kontext. Eine Nutzenfunktion wird oft in der Wirtschaftswissenschaft und Entscheidungstheorie verwendet und repräsentiert die Erwünschtheit eines Zustands. Eine Zielfunktion ist ein allgemeiner Begriff in der Optimierung, während eine Verlustfunktion im maschinellen Lernen verwendet wird, wo das Ziel darin besteht, Fehler zu minimieren. Eine Belohnungsfunktion erscheint im bestärkenden Lernen, und eine Fitnessfunktion wird in evolutionären Systemen verwendet. Ziele können explizit programmiert oder durch Lernen oder Evolution induziert werden.
Lernen und Anpassung in agentischen Systemen
Beim bestärkenden Lernen liefert eine Belohnungsfunktion Feedback, das erwünschte Verhaltensweisen fördert und unerwünschte unterbindet, wobei der Agent lernt, die kumulative Belohnung zu maximieren. Programmierer können Belohnungsformung (Reward Shaping) verwenden, um inkrementelle Belohnungen für Fortschritte in Richtung des Endziels zu geben. Evolutionäre Systeme verwenden eine Fitnessfunktion, um zu bestimmen, welche Agenten sich mit höherer Wahrscheinlichkeit fortpflanzen, analog zur natürlichen Selektion. Yann LeCun erklärte 2018, dass die meisten Lernalgorithmen im Wesentlichen darin bestehen, eine Zielfunktion zu minimieren.
Einige KI-Systeme, wie Nächste-Nachbarn-Methoden, argumentieren durch Analogie, anstatt explizit zielgetrieben zu sein. Selbst diese Systeme können jedoch Ziele haben, die implizit in ihren Trainingsdaten definiert sind. Systeme, die traditionell nicht als Agenten betrachtet werden, wie Wissensrepräsentationssysteme, können als Agenten mit dem Ziel gerahmt werden, Fragen genau zu beantworten. In der generativen KI können nachahmungsgetriebene Systeme als Optimierung einer Zielfunktion gerahmt werden, die darauf basiert, wie genau sie erwünschtes Verhalten nachahmen, wie bei generativen gegnerischen Netzen, bei denen ein Generator versucht, einen Diskriminator zu täuschen.
Anwendungen und weiterer Kontext
Agentic KI ist eng mit Agenten in der Wirtschaftswissenschaft verwandt, und Versionen des intelligenten Agentenparadigmas werden in der Kognitionswissenschaft, Ethik und der Philosophie der praktischen Vernunft untersucht. Das Konzept erscheint auch in interdisziplinärer sozio-kognitiver Modellierung und computergestützten sozialen Simulationen. Intelligente Agenten werden oft schematisch als abstrakte funktionale Systeme ähnlich wie Computerprogramme beschrieben, wobei abstrakte Beschreibungen als abstrakte intelligente Agenten bezeichnet werden. Sie sind auch mit Software-Agenten verwandt, also autonomen Computerprogrammen, die Aufgaben im Auftrag von Benutzern ausführen, und werden manchmal als rationale Agenten bezeichnet, ein Begriff, der aus der Wirtschaftswissenschaft entlehnt ist.
Moderne Implementierungen von Agentic KI bauen oft auf großen Sprachmodellen und Transformer-Architekturen auf, die es Systemen ermöglichen, zu planen, Werkzeuge zu verwenden und über erweiterte Zeithorizonte hinweg zu operieren. Forschungseinrichtungen wie MIT CSAIL, Stanford AI Lab und Berkeley AI Research haben zur Weiterentwicklung dieser Systeme beigetragen. Unternehmen wie OpenAI, Anthropic und Google DeepMind haben agentische Frameworks entwickelt, die Reasoning mit Aktion integrieren, obwohl sich das Feld weiterhin rasant entwickelt.