Em inteligência artificial, o nível de conhecimento é um nível de abstração para descrever o comportamento de um agente puramente em termos de seu conhecimento e objetivos, sem referência aos mecanismos subjacentes que implementam esse conhecimento. Foi introduzido por Allen Newell em 1982 em seu artigo "The Knowledge Level" (publicado em Artificial Intelligence, 18(1):87-127). Nesse nível, um agente é caracterizado pelo que sabe e pelo que pretende alcançar, e suas ações são selecionadas de acordo com o princípio da racionalidade: o agente escolhe a ação que acredita que melhor satisfará seus objetivos, dado seu conhecimento.
O nível de conhecimento é uma abstração lógica que separa o conteúdo das crenças e desejos de um agente dos detalhes de como essas crenças são armazenadas ou processadas. Ele fornece uma maneira de racionalizar o comportamento de um agente - para explicar e prever o que o agente fará com base em seu estado epistêmico e objetivos, em vez de nos algoritmos ou estruturas de dados específicos que ele usa. Essa abstração é útil para projetar, analisar e comparar sistemas inteligentes, pois permite raciocinar sobre o comportamento em um alto nível de generalidade.
Relação com o Nível de Símbolos
Abaixo do nível de conhecimento está o nível de símbolos, que é orientado ao sistema e inclui os mecanismos que um agente tem disponíveis para operar. Enquanto o nível de conhecimento é orientado ao mundo, concernente ao ambiente em que o agente opera, o nível de símbolos abrange os algoritmos, estruturas de dados e outros detalhes de implementação que mecanizam o comportamento do agente. O nível de conhecimento racionaliza o comportamento; o nível de símbolos o mecaniza.
Por exemplo, em um programa de computador, o nível de conhecimento consiste nas informações contidas em suas estruturas de dados que ele usa para realizar certas ações, como fatos sobre o mundo ou regras para tomada de decisão. O nível de símbolos consiste nos algoritmos do programa, nas próprias estruturas de dados e no hardware físico ou virtual no qual eles são executados. A mesma descrição no nível de conhecimento pode ser realizada por muitas implementações diferentes no nível de símbolos.
Aplicações na Pesquisa em IA
O nível de conhecimento influenciou várias áreas de aprendizado de máquina e IA generativa. Em agentes baseados em conhecimento, ele fornece uma estrutura para especificar o que um agente sabe e quais são seus objetivos, independentemente do mecanismo de inferência ou do esquema de representação de conhecimento usado. Essa abstração é particularmente relevante em redes neurais e grandes modelos de linguagem, onde as representações internas são opacas, mas o comportamento no nível de conhecimento pode ser caracterizado pelas saídas e objetivos do modelo.
Em aprendizado profundo, o nível de conhecimento é frequentemente usado para descrever a competência funcional de um modelo - o que ele aprendeu e o que pode fazer - sem detalhar os milhões de pesos ou a arquitetura específica. Por exemplo, um modelo transformador treinado em texto pode ser descrito no nível de conhecimento como conhecendo fatos sobre a linguagem e sendo capaz de gerar respostas coerentes, mesmo que sua implementação no nível de símbolos envolva atenção de múltiplas cabeças, codificação posicional e normalização de camadas.
Princípio da Racionalidade e Comportamento Orientado a Objetivos
O princípio da racionalidade é central para o nível de conhecimento. Ele afirma que um agente selecionará uma ação que acredita que levará à satisfação de seus objetivos, dado seu conhecimento. Esse princípio permite que o nível de conhecimento seja usado de forma preditiva: se sabemos o que um agente sabe e o que ele quer, podemos inferir o que ele fará, sem precisar saber como ele processa informações internamente.
Essa abordagem foi aplicada em aprendizado por reforço e aprendizado curricular, onde agentes são treinados para maximizar recompensas (objetivos) com base em observações (conhecimento). Ela também sustenta o RLHF (aprendizado por reforço com feedback humano) usado para alinhar modelos da OpenAI e da Anthropic, onde o comportamento do modelo é moldado por um sinal de recompensa que codifica preferências humanas.
Críticas e Limitações
Alguns pesquisadores argumentaram que o nível de conhecimento é abstrato demais para uso prático, pois assume uma especificação completa e consistente do conhecimento e dos objetivos de um agente, que muitas vezes não está disponível em sistemas do mundo real. Outros notaram que a distinção entre os níveis de conhecimento e de símbolos pode se tornar difusa em sistemas que aprendem ou se adaptam, onde o próprio conhecimento é modificado por processos no nível de símbolos. No entanto, o nível de conhecimento permanece um conceito fundamental na ciência cognitiva e na IA, fornecendo um vocabulário claro para discutir comportamento inteligente.
Ver também
- Modelagem no nível de conhecimento
- Relatividade do conhecimento
- Agentes baseados em conhecimento
Referências
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. Novembro de 1996.