Dans intelligence artificielle, le niveau de connaissance est un niveau d'abstraction permettant de décrire le comportement d'un agent uniquement en termes de ses connaissances et de ses objectifs, sans référence aux mécanismes sous-jacents qui implémentent cette connaissance. Il a été introduit par Allen Newell en 1982 dans son article « The Knowledge Level » (publié dans Artificial Intelligence, 18(1):87-127). À ce niveau, un agent est caractérisé par ce qu'il sait et ce qu'il vise à accomplir, et ses actions sont sélectionnées selon le principe de rationalité : l'agent choisit l'action qu'il croit la mieux adaptée pour satisfaire ses objectifs compte tenu de ses connaissances.
Le niveau de connaissance est une abstraction logique qui sépare le contenu des croyances et des désirs d'un agent des détails de la manière dont ces croyances sont stockées ou traitées. Il fournit un moyen de rationaliser le comportement d'un agent - d'expliquer et de prédire ce que l'agent fera en fonction de son état épistémique et de ses objectifs, plutôt que des algorithmes ou structures de données spécifiques qu'il utilise. Cette abstraction est utile pour concevoir, analyser et comparer des systèmes intelligents, car elle permet de raisonner sur le comportement à un niveau élevé de généralité.
Relation avec le niveau symbolique
Sous le niveau de connaissance se trouve le niveau symbolique, qui est orienté système et inclut les mécanismes dont dispose un agent pour opérer. Alors que le niveau de connaissance est orienté monde, concernant l'environnement dans lequel l'agent opère, le niveau symbolique englobe les algorithmes, les structures de données et autres détails d'implémentation qui mécanisent le comportement de l'agent. Le niveau de connaissance rationalise le comportement ; le niveau symbolique le mécanise.
Par exemple, dans un programme informatique, le niveau de connaissance consiste en l'information contenue dans ses structures de données qu'il utilise pour effectuer certaines actions, comme des faits sur le monde ou des règles de prise de décision. Le niveau symbolique consiste en les algorithmes du programme, les structures de données elles-mêmes, et le matériel physique ou virtuel sur lequel elles s'exécutent. La même description au niveau de connaissance peut être réalisée par de nombreuses implémentations différentes au niveau symbolique.
Applications dans la recherche en IA
Le niveau de connaissance a influencé plusieurs domaines du apprentissage automatique et de l'IA générative. Dans les agents basés sur la connaissance, il fournit un cadre pour spécifier ce qu'un agent sait et quels sont ses objectifs, indépendamment du moteur d'inférence ou du schéma de représentation des connaissances utilisé. Cette abstraction est particulièrement pertinente dans les réseaux de neurones et les grands modèles de langage, où les représentations internes sont opaques mais le comportement au niveau de connaissance peut être caractérisé par les sorties et les objectifs du modèle.
Dans l'apprentissage profond, le niveau de connaissance est souvent utilisé pour décrire la compétence fonctionnelle d'un modèle - ce qu'il a appris et ce qu'il peut faire - sans détailler les millions de poids ou l'architecture spécifique. Par exemple, un modèle transformeur entraîné sur du texte peut être décrit au niveau de connaissance comme connaissant des faits sur le langage et étant capable de générer des réponses cohérentes, même si son implémentation au niveau symbolique implique attention multi-têtes, encodage positionnel et normalisation de couche.
Principe de rationalité et comportement orienté objectif
Le principe de rationalité est central au niveau de connaissance. Il stipule qu'un agent sélectionnera une action qu'il croit conduire à la satisfaction de ses objectifs, compte tenu de ses connaissances. Ce principe permet au niveau de connaissance d'être utilisé de manière prédictive : si nous savons ce qu'un agent sait et ce qu'il veut, nous pouvons déduire ce qu'il fera, sans avoir besoin de savoir comment il traite l'information en interne.
Cette approche a été appliquée dans l'apprentissage par renforcement et l'apprentissage par curriculum, où les agents sont entraînés à maximiser les récompenses (objectifs) en fonction des observations (connaissances). Elle sous-tend également le RLHF (apprentissage par renforcement à partir de retours humains) utilisé pour aligner les modèles d'OpenAI et d'Anthropic, où le comportement du modèle est façonné par un signal de récompense qui encode les préférences humaines.
Critiques et limites
Certains chercheurs ont soutenu que le niveau de connaissance est trop abstrait pour une utilisation pratique, car il suppose une spécification complète et cohérente des connaissances et des objectifs d'un agent, ce qui est souvent indisponible dans les systèmes du monde réel. D'autres ont noté que la distinction entre les niveaux de connaissance et symbolique peut s'estomper dans les systèmes qui apprennent ou s'adaptent, où la connaissance elle-même est modifiée par des processus au niveau symbolique. Néanmoins, le niveau de connaissance reste un concept fondamental en science cognitive et en IA, fournissant un vocabulaire clair pour discuter du comportement intelligent.
Voir aussi
- Modélisation au niveau de connaissance
- Relativité de la connaissance
- Agents basés sur la connaissance
Références
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. Novembre 1996.