La dépendance conceptuelle (CD) est une théorie de la compréhension du langage naturel développée à la fin des années 1960 et au début des années 1970 par Roger Schank et ses collègues à Université Stanford puis à Xerox PARC. Elle postule que le sens d'une phrase peut être représenté par un ensemble canonique et indépendant de la langue d'actions primitives et de rôles sémantiques, plutôt que par la syntaxe de surface de la phrase. Cette représentation permet à un système d'IA de tirer des inférences, de répondre à des questions et de paraphraser un texte d'une manière qui capture le contenu conceptuel sous-jacent.
L'idée centrale de la CD est que tous les événements et états peuvent être réduits à un petit ensemble d'actes primitifs, tels que PTRANS (transfert physique), MTRANS (transfert mental) et ATRANS (transfert abstrait). Chaque acte est associé à un ensemble de rôles casuels, incluant l'agent, l'objet, le destinataire et l'instrument. Par exemple, la phrase « Jean a donné un livre à Marie » serait représentée comme un acte ATRANS avec Jean comme agent, Marie comme destinataire et le livre comme objet. Cette représentation est conçue pour être universelle, ce qui signifie que la même structure conceptuelle serait générée indépendamment de la langue ou de la forme syntaxique de l'entrée.
L'une des principales motivations de la CD était de résoudre le problème de l'inférence dans la compréhension du langage naturel. En représentant le sens au niveau conceptuel, les systèmes pouvaient appliquer des règles d'inférence pour dériver des informations implicites. Par exemple, à partir de « Jean a donné un livre à Marie », un système basé sur la CD pourrait inférer que Marie possède désormais le livre, car l'acte ATRANS implique un changement de possession. Cette capacité a été démontrée dans des programmes d'IA précoces tels que SAM (mécanisme d'application de scripts) et PAM (mécanisme d'application de plans), qui utilisaient la CD pour comprendre des histoires et répondre à des questions à leur sujet.
Développement historique
Roger Schank a introduit la dépendance conceptuelle dans son article de 1969 « A Conceptual Dependency Representation for a Computer-Oriented Semantics » et l'a affinée tout au long des années 1970. La théorie a été développée dans le contexte de la recherche en intelligence artificielle à Stanford puis à l'Université Yale, où Schank a fondé le projet d'intelligence artificielle de Yale. Les principaux collaborateurs incluaient Robert Abelson, qui a contribué à la notion connexe de scripts, et Christopher Riesbeck, qui a travaillé sur l'analyse syntaxique et la génération.
Au cours des années 1970, la CD a été utilisée dans plusieurs systèmes influents de compréhension du langage naturel. Le système MARGIE, développé par Schank et ses étudiants, pouvait paraphraser des phrases et faire des inférences simples. Le système SAM appliquait des scripts pour comprendre des histoires sur des situations courantes, comme aller au restaurant, et pouvait répondre à des questions à leur sujet. Le système PAM utilisait des plans et des objectifs pour comprendre des histoires impliquant des actions intentionnelles. Ces systèmes ont démontré la puissance de la CD pour représenter les connaissances et raisonner sur le texte.
Composants principaux
La représentation CD consiste en un ensemble d'actes primitifs, chacun avec un ensemble défini de rôles casuels. Les primitives les plus couramment citées incluent :
- PTRANS : transfert physique d'un objet d'un endroit à un autre
- MTRANS : transfert de contenu mental (par exemple, des informations) entre des esprits ou au sein d'un esprit
- ATRANS : transfert de possession abstraite (par exemple, propriété, contrôle)
- INGEST : prise d'un objet par un être animé (par exemple, manger, boire)
- PROPEL : application d'une force physique
- GRASP : attachement physique d'un objet à un acteur
- EXPEL : expulsion d'un objet d'un être animé
- SPEAK : production de sons ou de parole
Chaque acte est associé à un ensemble de rôles casuels, tels que l'agent, l'objet, le destinataire, la direction et l'instrument. La représentation inclut également des états, décrits à l'aide d'un ensemble de primitives d'état, telles que SANTÉ, ÉTAT MENTAL et ÉTAT PHYSIQUE, avec des valeurs comme positif ou négatif.
Applications et influence
La dépendance conceptuelle a eu une influence significative sur le domaine du traitement du langage naturel et de la représentation des connaissances. Elle a été l'une des premières tentatives de créer une représentation du sens indépendante de la syntaxe de surface, un objectif qui reste central dans l'IA moderne. L'idée d'utiliser des actions primitives et des rôles sémantiques est reprise dans des cadres ultérieurs tels que FrameNet et VerbNet, qui fournissent des descriptions structurées des significations des verbes.
Dans les années 1980 et 1990, la CD a été utilisée dans des interfaces commerciales en langage naturel et dans la recherche sur la compréhension d'histoires. Cependant, à mesure que les approches statistiques et de apprentissage automatique ont gagné en importance dans les années 1990 et 2000, la nature artisanale de la CD est tombée en désuétude. L'essor du apprentissage profond et des réseaux de neurones dans les années 2010 a conduit à un abandon des représentations symboliques explicites, bien que certains chercheurs aient continué à explorer des approches hybrides.
Comparaison avec les approches modernes
Les grands modèles de langage (LLM) modernes, tels que ceux développés par OpenAI et Google DeepMind, apprennent des représentations du sens à partir de vastes quantités de texte en utilisant des architectures de transformeurs. Contrairement à la CD, ces modèles ne reposent pas sur des primitives codées à la main ou des règles d'inférence explicites. Au lieu de cela, ils apprennent des représentations distribuées qui capturent les similarités et relations sémantiques. Bien que les LLM puissent effectuer des tâches telles que la réponse à des questions et la génération de paraphrases, leurs représentations internes sont opaques et difficilement interprétables.
La dépendance conceptuelle, en revanche, offre une représentation transparente et compositionnelle qui soutient un raisonnement explicite. Cependant, elle nécessite un effort manuel important pour définir les primitives et les règles, et elle peine à capturer les nuances et la variabilité du langage naturel. Certains chercheurs ont soutenu qu'une combinaison d'approches symboliques et neuronales, comme on le voit dans l'IA neuro-symbolique, pourrait tirer parti des forces des deux paradigmes.
Héritage et critiques
La dépendance conceptuelle a été critiquée pour sa couverture limitée et la difficulté de la faire passer à l'échelle pour le langage réel. L'ensemble des primitives n'a jamais été entièrement convenu, et la représentation exigeait souvent des structures complexes difficiles à maintenir. Les critiques ont également noté que la CD était mieux adaptée aux histoires simples et manquait de la robustesse nécessaire pour des applications plus larges.
Malgré ces critiques, la CD reste une contribution historique importante à l'IA. Elle a influencé le développement des scripts, des plans et des objectifs dans la compréhension d'histoires, et elle a souligné l'importance de la représentation du sens dans le traitement du langage naturel. L'accent mis sur l'inférence et la génération de paraphrases a anticipé de nombreuses capacités que les systèmes d'IA modernes cherchent à atteindre. Dans les années 2020, la CD est principalement d'intérêt historique, mais ses idées continuent d'informer la recherche en représentation des connaissances et en raisonnement.