Konzeptionelle Abhängigkeit (CD) ist eine Theorie des maschinellen Sprachverständnisses, die Ende der 1960er und Anfang der 1970er Jahre von Roger Schank und seinen Kollegen an der Stanford University und später an der Yale University entwickelt wurde. Sie besagt, dass die Bedeutung eines Satzes durch eine kanonische, sprachunabhängige Menge primitiver Aktionen und semantischer Rollen dargestellt werden kann, anstatt durch die Oberflächensyntax des Satzes. Diese Repräsentation ermöglicht es einem KI-System, Schlussfolgerungen zu ziehen, Fragen zu beantworten und Texte zu paraphrasieren, wobei der zugrunde liegende konzeptuelle Inhalt erfasst wird.
Die Kernidee von CD ist, dass alle Ereignisse und Zustände auf eine kleine Menge primitiver Handlungen reduziert werden können, wie z. B. PTRANS (physische Übertragung), MTRANS (mentale Übertragung) und ATRANS (abstrakte Übertragung). Jede Handlung ist mit einer Reihe von Fallrollen verbunden, darunter Agent, Objekt, Empfänger und Instrument. Beispielsweise würde der Satz „John gab Mary ein Buch“ als eine ATRANS-Handlung mit John als Agent, Mary als Empfängerin und dem Buch als Objekt dargestellt. Diese Darstellung ist als universell konzipiert, was bedeutet, dass dieselbe konzeptuelle Struktur unabhängig von der Sprache oder der syntaktischen Form der Eingabe erzeugt würde.
Eine der Hauptmotivationen für CD war die Lösung des Inferenzproblems im maschinellen Sprachverständnis. Durch die Darstellung der Bedeutung auf konzeptueller Ebene konnten Systeme Inferenzregeln anwenden, um implizite Informationen abzuleiten. Beispielsweise konnte ein CD-basiertes System aus „John gab Mary ein Buch“ ableiten, dass Mary nun das Buch besitzt, da die ATRANS-Handlung einen Besitzwechsel impliziert. Diese Fähigkeit wurde in frühen KI-Programmen wie SAM (Script Applier Mechanism) und PAM (Plan Applier Mechanism) demonstriert, die CD verwendeten, um Geschichten zu verstehen und Fragen zu ihnen zu beantworten.
Historische Entwicklung
Roger Schank führte die konzeptionelle Abhängigkeit in seinem 1969 erschienenen Papier „A Conceptual Dependency Representation for a Computer-Oriented Semantics“ ein und verfeinerte sie in den 1970er Jahren weiter. Die Theorie wurde im Kontext der Forschung zu künstlicher Intelligenz in Stanford und später an der Yale University entwickelt, wo Schank das Yale Artificial Intelligence Project gründete. Zu den wichtigsten Mitarbeitern gehörten Robert Abelson, der das verwandte Konzept der Skripte beisteuerte, und Christopher Riesbeck, der an Parsing und Generierung arbeitete.
In den 1970er Jahren wurde CD in mehreren einflussreichen Systemen für maschinelles Sprachverständnis eingesetzt. Das MARGIE-System, das von Schank und seinen Studenten entwickelt wurde, konnte Sätze paraphrasieren und einfache Schlussfolgerungen ziehen. Das SAM-System wendete Skripte an, um Geschichten über alltägliche Situationen wie einen Restaurantbesuch zu verstehen und Fragen dazu zu beantworten. Das PAM-System verwendete Pläne und Ziele, um Geschichten mit absichtlichen Handlungen zu verstehen. Diese Systeme demonstrierten die Leistungsfähigkeit von CD bei der Wissensrepräsentation und der Verarbeitung von Texten.
Kernkomponenten
Die CD-Repräsentation besteht aus einer Menge primitiver Handlungen, jede mit einer definierten Reihe von Fallrollen. Die am häufigsten genannten Primitive umfassen:
- PTRANS: physische Übertragung eines Objekts von einem Ort zu einem anderen
- MTRANS: Übertragung mentaler Inhalte (z. B. Informationen) zwischen Geistern oder innerhalb eines Geistes
- ATRANS: Übertragung abstrakten Besitzes (z. B. Eigentum, Kontrolle)
- INGEST: Aufnahme eines Objekts durch ein belebtes Wesen (z. B. Essen, Trinken)
- PROPEL: Ausübung physischer Kraft
- GRASP: physische Befestigung eines Objekts an einem Akteur
- EXPEL: Ausstoßen eines Objekts aus einem belebten Wesen
- SPEAK: Erzeugung von Lauten oder Sprache
Jede Handlung ist mit einer Reihe von Fallrollen verbunden, wie Agent, Objekt, Empfänger, Richtung und Instrument. Die Repräsentation umfasst auch Zustände, die mit einer Reihe von Zustandsprimitiven wie GESUNDHEIT, GEISTESZUSTAND und PHYSISCHER ZUSTAND mit Werten wie positiv oder negativ beschrieben werden.
Anwendungen und Einfluss
Die konzeptionelle Abhängigkeit hatte einen bedeutenden Einfluss auf das Gebiet der Verarbeitung natürlicher Sprache und der Wissensrepräsentation. Sie war einer der ersten Versuche, eine Bedeutungsrepräsentation zu schaffen, die unabhängig von der Oberflächensyntax ist - ein Ziel, das in der modernen KI weiterhin zentral ist. Die Idee, primitive Handlungen und semantische Rollen zu verwenden, spiegelt sich in späteren Frameworks wie FrameNet und VerbNet wider, die strukturierte Beschreibungen von Verb-Bedeutungen liefern.
In den 1980er und 1990er Jahren wurde CD in kommerziellen Schnittstellen für natürliche Sprache und in der Forschung zum Geschichtenverständnis eingesetzt. Mit dem Aufkommen statistischer und maschineller Lernverfahren in den 1990er und 2000er Jahren geriet die handgefertigte Natur von CD jedoch in Ungnade. Der Aufstieg des Deep Learning und neuronaler Netze in den 2010er Jahren führte zu einer Abkehr von expliziten symbolischen Repräsentationen, obwohl einige Forscher weiterhin hybride Ansätze erkundeten.
Vergleich mit modernen Ansätzen
Moderne große Sprachmodelle (LLMs) wie die von OpenAI und Google DeepMind entwickelten lernen Bedeutungsrepräsentationen aus großen Textmengen mithilfe von Transformer-Architekturen. Im Gegensatz zu CD stützen sich diese Modelle nicht auf handcodierte Primitive oder explizite Inferenzregeln. Stattdessen lernen sie verteilte Repräsentationen, die semantische Ähnlichkeiten und Beziehungen erfassen. Obwohl LLMs Aufgaben wie Fragenbeantwortung und Paraphrasengenerierung ausführen können, sind ihre internen Repräsentationen undurchsichtig und nicht leicht interpretierbar.
Die konzeptionelle Abhängigkeit bietet dagegen eine transparente und kompositionelle Repräsentation, die explizites Schließen unterstützt. Sie erfordert jedoch einen erheblichen manuellen Aufwand zur Definition von Primitiven und Regeln und hat Schwierigkeiten, die Nuancen und die Variabilität natürlicher Sprache zu erfassen. Einige Forscher haben argumentiert, dass eine Kombination aus symbolischen und neuronalen Ansätzen, wie sie in der neuro-symbolischen KI zu sehen ist, die Stärken beider Paradigmen nutzen könnte.
Vermächtnis und Kritik
Die konzeptionelle Abhängigkeit wurde für ihre begrenzte Abdeckung und die Schwierigkeit kritisiert, auf die reale Sprache skaliert zu werden. Über die Menge der Primitive herrschte nie vollständige Einigkeit, und die Repräsentation erforderte oft komplexe Strukturen, die schwer zu pflegen waren. Kritiker merkten auch an, dass CD besser für einfache Geschichten geeignet war und die Robustheit vermissen ließ, die für breitere Anwendungen erforderlich ist.
Trotz dieser Kritik bleibt CD ein wichtiger historischer Beitrag zur KI. Sie beeinflusste die Entwicklung von Skripten, Plänen und Zielen im Geschichtenverständnis und hob die Bedeutung der Bedeutungsrepräsentation in der Verarbeitung natürlicher Sprache hervor. Die Betonung von Inferenz und Paraphrasengenerierung nahm viele der Fähigkeiten vorweg, die moderne KI-Systeme zu erreichen versuchen. In den 2020er Jahren ist CD vor allem von historischem Interesse, aber ihre Ideen fließen weiterhin in die Forschung zu Wissensrepräsentation und logischem Schließen ein.