In der künstlichen Intelligenz ist die Wissenebene eine Abstraktionsebene zur Beschreibung des Verhaltens eines Agenten rein anhand seines Wissens und seiner Ziele, ohne Bezug auf die zugrunde liegenden Mechanismen, die dieses Wissen implementieren. Sie wurde 1982 von Allen Newell in seinem Artikel „The Knowledge Level“ (veröffentlicht in Artificial Intelligence, 18(1):87-127) eingeführt. Auf dieser Ebene wird ein Agent durch das charakterisiert, was er weiß und was er erreichen möchte, und seine Handlungen werden nach dem Prinzip der Rationalität ausgewählt: Der Agent wählt die Handlung, von der er glaubt, dass sie seine Ziele angesichts seines Wissens am besten erfüllt.
Die Wissenebene ist eine logische Abstraktion, die den Inhalt der Überzeugungen und Wünsche eines Agenten von den Details trennt, wie diese Überzeugungen gespeichert oder verarbeitet werden. Sie bietet eine Möglichkeit, das Verhalten eines Agenten zu rationalisieren - das heißt, zu erklären und vorherzusagen, was der Agent basierend auf seinem epistemischen Zustand und seinen Zielen tun wird, anstatt auf den spezifischen Algorithmen oder Datenstrukturen, die er verwendet. Diese Abstraktion ist nützlich für das Entwerfen, Analysieren und Vergleichen intelligenter Systeme, da sie eine Argumentation über Verhalten auf einem hohen Allgemeinheitsgrad ermöglicht.
Beziehung zur Symbolebene
Unterhalb der Wissenebene liegt die Symbolebene, die systemorientiert ist und die Mechanismen umfasst, die einem Agenten zur Verfügung stehen, um zu operieren. Während die Wissenebene weltorientiert ist und die Umgebung betrifft, in der der Agent operiert, umfasst die Symbolebene die Algorithmen, Datenstrukturen und andere Implementierungsdetails, die das Verhalten des Agenten mechanisieren. Die Wissenebene rationalisiert Verhalten; die Symbolebene mechanisiert es.
Zum Beispiel besteht in einem Computerprogramm die Wissenebene aus den Informationen, die in seinen Datenstrukturen enthalten sind und die es verwendet, um bestimmte Handlungen auszuführen, wie Fakten über die Welt oder Regeln für die Entscheidungsfindung. Die Symbolebene besteht aus den Algorithmen des Programms, den Datenstrukturen selbst und der physischen oder virtuellen Hardware, auf der sie laufen. Dieselbe Beschreibung auf der Wissenebene kann durch viele verschiedene Implementierungen auf der Symbolebene realisiert werden.
Anwendungen in der KI-Forschung
Die Wissenebene hat mehrere Bereiche des maschinellen Lernens und der generativen KI beeinflusst. In wissensbasierten Agenten bietet sie einen Rahmen zur Spezifikation dessen, was ein Agent weiß und was seine Ziele sind, unabhängig von der Inferenzmaschine oder dem Wissensrepräsentationsschema, das verwendet wird. Diese Abstraktion ist besonders relevant in neuronalen Netzen und großen Sprachmodellen, wo die internen Repräsentationen undurchsichtig sind, aber das Verhalten auf der Wissenebene durch die Ausgaben und Ziele des Modells charakterisiert werden kann.
Im Deep Learning wird die Wissenebene oft verwendet, um die funktionale Kompetenz eines Modells zu beschreiben - was es gelernt hat und was es tun kann - ohne die Millionen von Gewichten oder die spezifische Architektur im Detail zu erläutern. Zum Beispiel kann ein Transformer-Modell, das auf Text trainiert wurde, auf der Wissenebene beschrieben werden als eines, das Fakten über Sprache kennt und kohärente Antworten generieren kann, obwohl seine Implementierung auf der Symbolebene Multi-Head-Attention, positionale Kodierung und Schichtnormalisierung umfasst.
Prinzip der Rationalität und zielgerichtetes Verhalten
Das Prinzip der Rationalität ist zentral für die Wissenebene. Es besagt, dass ein Agent eine Handlung auswählen wird, von der er glaubt, dass sie zur Erfüllung seiner Ziele führt, gegeben sein Wissen. Dieses Prinzip ermöglicht es, die Wissenebene prädiktiv zu nutzen: Wenn wir wissen, was ein Agent weiß und was er will, können wir ableiten, was er tun wird, ohne zu wissen, wie er Informationen intern verarbeitet.
Dieser Ansatz wurde im Verstärkungslernen und im Curriculum-Lernen angewendet, wo Agenten trainiert werden, Belohnungen (Ziele) basierend auf Beobachtungen (Wissen) zu maximieren. Er unterliegt auch RLHF (Verstärkungslernen aus menschlichem Feedback), das zur Ausrichtung von OpenAI- und Anthropic-Modellen verwendet wird, wobei das Verhalten des Modells durch ein Belohnungssignal geformt wird, das menschliche Präferenzen kodiert.
Kritik und Einschränkungen
Einige Forscher haben argumentiert, dass die Wissenebene zu abstrakt für den praktischen Gebrauch ist, da sie eine vollständige und konsistente Spezifikation des Wissens und der Ziele eines Agenten annimmt, die in realen Systemen oft nicht verfügbar ist. Andere haben festgestellt, dass die Unterscheidung zwischen Wissens- und Symbolebene in Systemen, die lernen oder sich anpassen, verschwimmen kann, wo das Wissen selbst durch Prozesse auf der Symbolebene modifiziert wird. Dennoch bleibt die Wissenebene ein grundlegendes Konzept in der Kognitionswissenschaft und der KI und bietet ein klares Vokabular zur Diskussion intelligenten Verhaltens.
Siehe auch
- Modellierung der Wissenebene
- Wissensrelativität
- wissensbasierte Agenten
Referenzen
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. November 1996.