Konzeptionelle Abhängigkeit (CD) ist eine Theorie des Verständnisses natürlicher Sprache, die in den späten 1960er und frühen 1970er Jahren von Roger Schank und seinen Kollegen an der Stanford University und später am Xerox PARC entwickelt wurde. Sie postuliert, dass die Bedeutung eines Satzes durch eine kanonische, sprachunabhängige Menge primitiver Handlungen und semantischer Rollen dargestellt werden kann, anstatt durch die Oberflächensyntax des Satzes. Diese Darstellung ermöglicht es einem KI-System, Schlussfolgerungen zu ziehen, Fragen zu beantworten und Texte zu paraphrasieren, wobei der zugrunde liegende konzeptionelle Inhalt erfasst wird.
Die Kernidee von CD ist, dass alle Ereignisse und Zustände auf eine kleine Menge primitiver Handlungen reduziert werden können, wie PTRANS (physische Übertragung), MTRANS (mentale Übertragung) und ATRANS (abstrakte Übertragung). Jede Handlung ist mit einer Menge von Fallrollen verbunden, einschließlich Agent, Objekt, Empfänger und Instrument. Zum Beispiel würde der Satz "John gab Mary ein Buch" als eine ATRANS-Handlung dargestellt, mit John als Agent, Mary als Empfänger und dem Buch als Objekt. Diese Darstellung ist so konzipiert, dass sie universell ist, was bedeutet, dass dieselbe konzeptionelle Struktur unabhängig von der Sprache oder syntaktischen Form der Eingabe erzeugt würde.
Eine der Hauptmotivationen für CD war die Lösung des Problems der Inferenz im Verständnis natürlicher Sprache. Durch die Darstellung von Bedeutung auf konzeptioneller Ebene konnten Systeme Inferenzregeln anwenden, um implizite Informationen abzuleiten. Zum Beispiel könnte ein CD-basiertes System aus "John gab Mary ein Buch" ableiten, dass Mary nun das Buch besitzt, da die ATRANS-Handlung einen Besitzwechsel impliziert. Diese Fähigkeit wurde in frühen KI-Programmen wie SAM (Script Applier Mechanism) und PAM (Plan Applier Mechanism) demonstriert, die CD verwendeten, um Geschichten zu verstehen und Fragen darüber zu beantworten.
Historische Entwicklung
Roger Schank führte die konzeptionelle Abhängigkeit in seinem Papier von 1969 "A Conceptual Dependency Representation for a Computer-Oriented Semantics" ein und verfeinerte sie in den 1970er Jahren. Die Theorie wurde im Kontext der Forschung zu künstlicher Intelligenz in Stanford und später an der Yale University entwickelt, wo Schank das Yale Artificial Intelligence Project gründete. Zu den wichtigsten Mitarbeitern gehörten Robert Abelson, der das verwandte Konzept der Skripte beisteuerte, und Christopher Riesbeck, der an Parsing und Generierung arbeitete.
In den 1970er Jahren wurde CD in mehreren einflussreichen Systemen zum Verständnis natürlicher Sprache verwendet. Das MARGIE-System, entwickelt von Schank und seinen Studenten, konnte Sätze paraphrasieren und einfache Schlussfolgerungen ziehen. Das SAM-System wandte Skripte an, um Geschichten über alltägliche Situationen wie den Besuch eines Restaurants zu verstehen und Fragen darüber zu beantworten. Das PAM-System verwendete Pläne und Ziele, um Geschichten mit absichtlichen Handlungen zu verstehen. Diese Systeme demonstrierten die Leistungsfähigkeit von CD zur Darstellung von Wissen und zum Denken über Texte.
Kernkomponenten
Die CD-Darstellung besteht aus einer Menge primitiver Handlungen, jede mit einer definierten Menge von Fallrollen. Die am häufigsten zitierten Primitive umfassen:
- PTRANS: physische Übertragung eines Objekts von einem Ort zu einem anderen
- MTRANS: Übertragung mentaler Inhalte (z. B. Informationen) zwischen Geistern oder innerhalb eines Geistes
- ATRANS: Übertragung abstrakten Besitzes (z. B. Eigentum, Kontrolle)
- INGEST: Aufnahme eines Objekts durch ein belebtes Wesen (z. B. Essen, Trinken)
- PROPEL: Anwendung physischer Kraft
- GRASP: physische Befestigung eines Objekts an einem Akteur
- EXPEL: Herausdrücken eines Objekts aus einem belebtem Wesen
- SPEAK: Erzeugung von Geräuschen oder Sprache
Jede Handlung ist mit einer Menge von Fallrollen verbunden, wie Agent, Objekt, Empfänger, Richtung und Instrument. Die Darstellung umfasst auch Zustände, die mit einer Menge von Zustandsprimitiven beschrieben werden, wie GESUNDHEIT, GEISTESZUSTAND und PHYSISCHER ZUSTAND, mit Werten wie positiv oder negativ.
Anwendungen und Einfluss
Die konzeptionelle Abhängigkeit hatte einen bedeutenden Einfluss auf das Gebiet der Verarbeitung natürlicher Sprache und der Wissensrepräsentation. Sie war einer der ersten Versuche, eine Bedeutungsrepräsentation zu schaffen, die unabhängig von der Oberflächensyntax ist, ein Ziel, das in der modernen KI zentral bleibt. Die Idee, primitive Handlungen und semantische Rollen zu verwenden, findet sich in späteren Frameworks wie FrameNet und VerbNet wieder, die strukturierte Beschreibungen von Verb-Bedeutungen bieten.
In den 1980er und 1990er Jahren wurde CD in kommerziellen Schnittstellen für natürliche Sprache und in der Forschung zum Geschichtenverständnis verwendet. Mit dem Aufkommen statistischer und maschineller Lernansätze in den 1990er und 2000er Jahren geriet die handgefertigte Natur von CD jedoch in Ungnade. Der Aufstieg von Deep Learning und neuronalen Netzen in den 2010er Jahren führte zu einer Abkehr von expliziten symbolischen Repräsentationen, obwohl einige Forscher weiterhin hybride Ansätze erkundeten.
Vergleich mit modernen Ansätzen
Moderne große Sprachmodelle (LLMs) wie die von OpenAI und Google DeepMind lernen Bedeutungsrepräsentationen aus riesigen Textmengen mithilfe von Transformer-Architekturen. Im Gegensatz zu CD verlassen sich diese Modelle nicht auf handkodierte Primitive oder explizite Inferenzregeln. Stattdessen lernen sie verteilte Repräsentationen, die semantische Ähnlichkeiten und Beziehungen erfassen. Während LLMs Aufgaben wie Fragenbeantwortung und Paraphrasengenerierung ausführen können, sind ihre internen Repräsentationen undurchsichtig und nicht leicht interpretierbar.
Die konzeptionelle Abhängigkeit bietet dagegen eine transparente und kompositionale Repräsentation, die explizites Denken unterstützt. Sie erfordert jedoch erheblichen manuellen Aufwand zur Definition von Primitiven und Regeln und hat Schwierigkeiten, die Nuancen und Variabilität natürlicher Sprache zu erfassen. Einige Forscher haben argumentiert, dass eine Kombination aus symbolischen und neuronalen Ansätzen, wie sie in der neuro-symbolischen KI zu sehen ist, die Stärken beider Paradigmen nutzen könnte.
Vermächtnis und Kritik
Die konzeptionelle Abhängigkeit wurde für ihre begrenzte Abdeckung und die Schwierigkeit, auf reale Sprache zu skalieren, kritisiert. Die Menge der Primitive wurde nie vollständig vereinbart, und die Darstellung erforderte oft komplexe Strukturen, die schwer zu warten waren. Kritiker stellten auch fest, dass CD besser für einfache Geschichten geeignet war und die Robustheit für breitere Anwendungen fehlte.
Trotz dieser Kritik bleibt CD ein wichtiger historischer Beitrag zur KI. Sie beeinflusste die Entwicklung von Skripten, Plänen und Zielen im Geschichtenverständnis und hob die Bedeutung der Bedeutungsrepräsentation in der Verarbeitung natürlicher Sprache hervor. Der Schwerpunkt auf Inferenz und Paraphrasengenerierung nahm viele Fähigkeiten vorweg, die moderne KI-Systeme anstreben. In den 2020er Jahren ist CD hauptsächlich von historischem Interesse, aber ihre Ideen fließen weiterhin in die Forschung zu Wissensrepräsentation und Denken ein.