En inteligencia artificial, el nivel de conocimiento es un nivel de abstracción para describir el comportamiento de un agente puramente en términos de su conocimiento y sus objetivos, sin referencia a los mecanismos subyacentes que implementan ese conocimiento. Fue introducido por Allen Newell en 1982 en su artículo "The Knowledge Level" (publicado en Artificial Intelligence, 18(1):87-127). En este nivel, un agente se caracteriza por lo que sabe y lo que pretende lograr, y sus acciones se seleccionan según el principio de racionalidad: el agente elige la acción que cree que satisfará mejor sus objetivos dado su conocimiento.
El nivel de conocimiento es una abstracción lógica que separa el contenido de las creencias y deseos de un agente de los detalles de cómo se almacenan o procesan esas creencias. Proporciona una manera de racionalizar el comportamiento de un agente - para explicar y predecir lo que el agente hará basándose en su estado epistémico y sus objetivos, en lugar de en los algoritmos o estructuras de datos específicos que utiliza. Esta abstracción es útil para diseñar, analizar y comparar sistemas inteligentes, ya que permite razonar sobre el comportamiento a un alto nivel de generalidad.
Relación con el nivel de símbolos
Debajo del nivel de conocimiento se encuentra el nivel de símbolos, que está orientado al sistema e incluye los mecanismos que un agente tiene disponibles para operar. Mientras que el nivel de conocimiento está orientado al mundo, concerniente al entorno en el que opera el agente, el nivel de símbolos abarca los algoritmos, las estructuras de datos y otros detalles de implementación que mecanizan el comportamiento del agente. El nivel de conocimiento racionaliza el comportamiento; el nivel de símbolos lo mecaniza.
Por ejemplo, en un programa informático, el nivel de conocimiento consiste en la información contenida en sus estructuras de datos que utiliza para realizar ciertas acciones, como hechos sobre el mundo o reglas para la toma de decisiones. El nivel de símbolos consiste en los algoritmos del programa, las propias estructuras de datos y el hardware físico o virtual en el que se ejecutan. La misma descripción a nivel de conocimiento puede realizarse mediante muchas implementaciones diferentes a nivel de símbolos.
Aplicaciones en la investigación de IA
El nivel de conocimiento ha influido en varias áreas del aprendizaje automático y la IA generativa. En los agentes basados en conocimiento, proporciona un marco para especificar qué sabe un agente y cuáles son sus objetivos, independientemente del motor de inferencia o del esquema de representación del conocimiento utilizado. Esta abstracción es particularmente relevante en redes neuronales y modelos de lenguaje grandes, donde las representaciones internas son opacas pero el comportamiento a nivel de conocimiento puede caracterizarse por las salidas y los objetivos del modelo.
En aprendizaje profundo, el nivel de conocimiento se utiliza a menudo para describir la competencia funcional de un modelo - qué ha aprendido y qué puede hacer - sin detallar los millones de pesos o la arquitectura específica. Por ejemplo, un modelo transformador entrenado en texto puede describirse a nivel de conocimiento como que conoce hechos sobre el lenguaje y es capaz de generar respuestas coherentes, aunque su implementación a nivel de símbolos implique atención de múltiples cabezas, codificación posicional y normalización de capas.
Principio de racionalidad y comportamiento dirigido a objetivos
El principio de racionalidad es central para el nivel de conocimiento. Establece que un agente seleccionará una acción que cree que conducirá a la satisfacción de sus objetivos, dado su conocimiento. Este principio permite que el nivel de conocimiento se utilice de manera predictiva: si sabemos qué sabe un agente y qué quiere, podemos inferir qué hará, sin necesidad de saber cómo procesa la información internamente.
Este enfoque se ha aplicado en aprendizaje por refuerzo y aprendizaje curricular, donde los agentes se entrenan para maximizar recompensas (objetivos) basándose en observaciones (conocimiento). También sustenta el RLHF (aprendizaje por refuerzo a partir de retroalimentación humana) utilizado para alinear modelos de OpenAI y Anthropic, donde el comportamiento del modelo se moldea mediante una señal de recompensa que codifica las preferencias humanas.
Críticas y limitaciones
Algunos investigadores han argumentado que el nivel de conocimiento es demasiado abstracto para un uso práctico, ya que asume una especificación completa y consistente del conocimiento y los objetivos de un agente, que a menudo no está disponible en sistemas del mundo real. Otros han señalado que la distinción entre los niveles de conocimiento y de símbolos puede difuminarse en sistemas que aprenden o se adaptan, donde el conocimiento mismo es modificado por procesos a nivel de símbolos. No obstante, el nivel de conocimiento sigue siendo un concepto fundamental en la ciencia cognitiva y la IA, proporcionando un vocabulario claro para discutir el comportamiento inteligente.
Véase también
- Modelado del nivel de conocimiento
- Relatividad del conocimiento
- Agentes basados en conocimiento
Referencias
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. Noviembre de 1996.