Ein KI-Agent, auch bekannt als agentische KI, ist eine autonome Einheit, die ihre Umgebung durch Sensoren wahrnimmt und durch Aktuatoren auf sie einwirkt, um bestimmte Ziele zu erreichen. Dieses Konzept ist zentral für die agentenbasierte Definition von künstlicher Intelligenz, die KI als die Untersuchung und das Design intelligenter Agenten beschreibt. Agenten können von einfachen Steuerungssystemen wie einem Thermostat bis hin zu hochkomplexen Systemen wie einem selbstfahrenden Auto oder einem Menschen reichen, und sie können ihre Leistung im Laufe der Zeit durch maschinelles Lernen oder durch den Erwerb von Wissen verbessern.
Der Begriff „intelligenter Agent“ stammt aus dem breiteren Feld der künstlichen Intelligenz, wo Lehrbücher von Stuart Russell und Peter Norvig ihn als alles definieren, was seine Umgebung wahrnimmt und Aktionen ausführt. Ein rationaler Agent wählt Aktionen aus, von denen erwartet wird, dass sie sein Leistungsmaß maximieren, gegeben seiner Wahrnehmungssequenz, seines Vorwissens und der verfügbaren Aktionen. Diese Rationalität erfordert keine Allwissenheit oder garantierten Erfolg; sie betrifft das erwartete Ergebnis basierend auf verfügbaren Informationen. Agenten werden auch durch Eigenschaften wie Autonomie, Reaktionsfähigkeit auf Umweltveränderungen und zielgerichtetes oder proaktives Verhalten charakterisiert, das oft mit Architekturen wie Belief-Desire-Intention (BDI) modelliert wird.
Zielfunktion
Die Zielfunktion, auch als Ziel-Funktion bezeichnet, spezifiziert die Ziele eines intelligenten Agenten und dient als Maß für den Erfolg. Ein Agent gilt als intelligenter, wenn er konsequent Aktionen auswählt, die Ergebnisse hervorbringen, die besser mit dieser Funktion übereinstimmen. Die Funktion kann einfach sein, wie das Zuweisen von +1 für einen Sieg und -1 für eine Niederlage in einem Go-Spiel, oder komplex, was vom Agenten verlangt, vergangene Aktionen zu bewerten und daraus zu lernen. Sie umfasst alle Ziele und beinhaltet Kompromisse zwischen widersprüchlichen Zielen, wie bei einem selbstfahrenden Auto, das Sicherheit, Geschwindigkeit und Passagierkomfort abwägt.
Verschiedene Kontexte verwenden unterschiedliche Begriffe für dieses Konzept. In der Wirtschaftswissenschaft und Entscheidungstheorie ist es eine Nutzenfunktion; in der Optimierung eine Zielfunktion; im maschinellen Lernen eine Verlustfunktion; im bestärkenden Lernen eine Belohnungsfunktion; und in evolutionären Systemen eine Fitnessfunktion. Ziele können explizit programmiert oder durch Lernen oder Evolution induziert werden. Zum Beispiel lernt ein Agent des bestärkenden Lernens, die kumulative Belohnung zu maximieren, während das Verhalten eines evolutionären Algorithmus durch eine Fitnessfunktion gesteuert wird, die bestimmt, welche Agenten sich reproduzieren, analog zur natürlichen Selektion.
Agentenbasierte Definition von KI
Russells und Norvigs Rahmenwerk beschreibt KI als die Untersuchung von Agenten, die Wahrnehmungen aus einer Umgebung erhalten und Aktionen ausführen. In dieser Sichtweise ist ein Agent alles, was durch Sensoren wahrnimmt und durch Aktuatoren handelt. Ein rationaler Agent wählt die Aktion aus, von der erwartet wird, dass sie sein Leistungsmaß maximiert, gegeben seiner Wahrnehmungssequenz, seines Vorwissens und der verfügbaren Aktionen. Diese Definition betont, dass zielgerichtetes Verhalten zentral für Intelligenz ist, und sie gilt sowohl für einfache als auch für komplexe Systeme.
Die agentenorientierte Informatik charakterisiert Agenten weiterhin durch Autonomie, Reaktionsfähigkeit und proaktives Verhalten. Die BDI-Architektur modelliert praktisches Denken, indem sie die Überzeugungen eines Agenten über die Welt, Wünsche (Ziele) und Absichten (festgelegte Handlungsabläufe) repräsentiert. Dieser Ansatz wird häufig in Multi-Agenten-Systemen und der Robotik verwendet, wo Agenten in dynamischen Umgebungen operieren müssen.
Typen und Beispiele
Intelligente Agenten können nach ihrer Komplexität und ihren Lernfähigkeiten klassifiziert werden. Einfache Reflex-Agenten handeln ausschließlich auf der Grundlage aktueller Wahrnehmungen, während modellbasierte Agenten einen internen Zustand aufrechterhalten. Zielbasierte Agenten berücksichtigen zukünftige Aktionen, um Ziele zu erreichen, und nutzenbasierte Agenten maximieren eine Nutzenfunktion. Lernende Agenten verbessern ihre Leistung durch Feedback, wie bestärkendes Lernen oder evolutionäre Berechnung.
Beispiele umfassen einen einfachen Thermostat, der ein einfacher Reflex-Agent ist, und AlphaZero, ein Schachprogramm mit einer einfachen Zielfunktion von +1 für einen Sieg und -1 für eine Niederlage. Komplexere Agenten umfassen selbstfahrende Autos, die mehrere Ziele abwägen, und Software-Agenten, die Aufgaben im Namen von Benutzern ausführen, wie die autonomen Fahrzeuge von Waymo oder die Systeme von Tesla. In der Wirtschaft sind Agenten eng mit rationalen Agenten verwandt, und das Paradigma wird in der Kognitionswissenschaft, Ethik und Philosophie untersucht.
Lernen und Anpassung
Agenten verbessern sich oft durch Lernalgorithmen. Im bestärkenden Lernen liefert eine Belohnungsfunktion Feedback, das erwünschte Verhaltensweisen fördert und unerwünschte unterdrückt. Programmierer können Belohnungsformung verwenden, um inkrementelle Belohnungen für Fortschritte zu geben, wie Yann LeCun 2018 bemerkte: „Die meisten Lernalgorithmen, die Menschen entwickelt haben, bestehen im Wesentlichen aus der Minimierung einer Zielfunktion.“ Evolutionäre Berechnung kann Agenten hervorbringen, die absichtlich zu handeln scheinen, gesteuert durch eine Fitnessfunktion.
Einige Systeme, wie Nächste-Nachbarn-Klassifikatoren, argumentieren analog, anstatt explizit zielgetrieben zu sein, aber sie können dennoch als Agenten mit impliziten Zielen in ihren Trainingsdaten betrachtet werden. In ähnlicher Weise können Wissensrepräsentationssysteme als Agenten mit dem Ziel betrachtet werden, Fragen genau zu beantworten, was das Konzept der „Aktion“ erweitert, um das Geben von Antworten einzuschließen. In generativen gegnerischen Netzwerken (GANs) der 2010er Jahre ahmt ein Generator die menschliche Textkomposition nach und maximiert eine Funktion, die das Täuschen eines Diskriminators darstellt, was nachahmungsgetriebene Zielfunktionen veranschaulicht.
Anwendungen und Implikationen
KI-Agenten werden in verschiedenen Branchen eingesetzt, von autonomen Fahrzeugen und Robotik bis hin zu virtuellen Assistenten und Empfehlungssystemen. Unternehmen wie OpenAI, Anthropic und Google DeepMind entwickeln agentenbasierte KI-Systeme, während Amazon Web Services und Microsoft Azure Cloud-Infrastruktur für deren Bereitstellung anbieten. Das Paradigma beeinflusst auch die Forschung in der Kognitionswissenschaft und der sozio-kognitiven Modellierung, wo Agenten soziale Verhaltensweisen simulieren.
Das Design von Zielfunktionen wirft ethische Überlegungen auf, da Agenten für unbeabsichtigte Ergebnisse optimieren können. Zum Beispiel muss die Zielfunktion eines selbstfahrenden Autos Sicherheit und Geschwindigkeit sorgfältig abwägen. Je autonomer Agenten werden, desto kritischer wird die Sicherstellung der Übereinstimmung mit menschlichen Werten. Dies hat zu Forschung in der KI-Sicherheit und Interpretierbarkeit geführt, wobei Institutionen wie MIT CSAIL und Stanford AI Lab diese Herausforderungen untersuchen.
Zukünftige Richtungen
Fortschritte bei großen Sprachmodellen und Transformer-Architekturen haben anspruchsvollere Agenten ermöglicht, die über längere Zeiträume denken und planen können. Diese Agenten, oft als agentische KI bezeichnet, verfolgen Ziele proaktiv und treffen Entscheidungen in dynamischen Umgebungen. Die Forschung konzentriert sich weiterhin auf die Verbesserung der Lerneffizienz, Robustheit und Generalisierung, mit Beiträgen von akademischen Labors wie BAIR (Berkeley AI Research) und Carnegie Mellon University.
Die Entwicklung von KI-Agenten wird wahrscheinlich zu stärker integrierten Systemen führen, die mit Menschen und untereinander zusammenarbeiten, was Fragen zu Verantwortlichkeit und Kontrolle aufwirft. Seit den frühen 2020er Jahren bleibt agentenbasierte KI ein lebendiges Feld mit laufenden Debatten über die Natur der Intelligenz und die Rolle von Zielfunktionen bei der Formung von Verhalten.