인공지능에서 지식 수준(Knowledge Level)은 에이전트의 행동을 그 지식과 목표만으로 순수하게 설명하는 추상화 수준으로, 해당 지식을 구현하는 기저 메커니즘에 대한 언급 없이 기술한다. 이 개념은 1982년 앨런 뉴웰(Allen Newell)이 논문 "The Knowledge Level"(Artificial Intelligence, 18(1):87-127에 게재)에서 처음 도입했다. 이 수준에서 에이전트는 무엇을 알고 무엇을 달성하려 하는지로 특징지어지며, 그 행동은 합리성 원칙에 따라 선택된다. 즉, 에이전트는 자신의 지식에 비추어 목표를 가장 잘 충족시킬 것이라고 믿는 행동을 선택한다.
지식 수준은 에이전트의 신념과 욕구의 내용을 그러한 신념이 저장되거나 처리되는 방식의 세부 사항과 분리하는 논리적 추상화이다. 이는 에이전트의 행동을 합리화하는 방법을 제공한다. 즉, 특정 알고리즘이나 데이터 구조가 아니라 인식적 상태와 목표에 기반하여 에이전트가 무엇을 할지 설명하고 예측하는 것이다. 이러한 추상화는 지능형 시스템을 설계, 분석, 비교하는 데 유용하며, 높은 수준의 일반성에서 행동에 대한 추론을 가능하게 한다.
기호 수준과의 관계
지식 수준 아래에는 기호 수준(Symbol Level)이 있으며, 이는 시스템 지향적이고 에이전트가 작동하는 데 사용할 수 있는 메커니즘을 포함한다. 지식 수준이 세계 지향적이며 에이전트가 작동하는 환경과 관련되는 반면, 기호 수준은 에이전트의 행동을 기계화하는 알고리즘, 데이터 구조 및 기타 구현 세부 사항을 포함한다. 지식 수준은 행동을 합리화하고, 기호 수준은 행동을 기계화한다.
예를 들어, 컴퓨터 프로그램에서 지식 수준은 특정 행동을 수행하는 데 사용되는 데이터 구조에 포함된 정보, 즉 세계에 대한 사실이나 의사 결정 규칙으로 구성된다. 기호 수준은 프로그램의 알고리즘, 데이터 구조 자체, 그리고 이를 실행하는 물리적 또는 가상 하드웨어로 구성된다. 동일한 지식 수준 설명은 많은 다른 기호 수준 구현으로 실현될 수 있다.
AI 연구에서의 응용
지식 수준은 기계 학습과 생성형 AI의 여러 영역에 영향을 미쳤다. 지식 기반 에이전트에서 이는 추론 엔진이나 지식 표현 방식과 독립적으로 에이전트가 무엇을 알고 목표가 무엇인지 명시하는 프레임워크를 제공한다. 이러한 추상화는 내부 표현이 불투명하지만 지식 수준 행동이 모델의 출력과 목표로 특징지어질 수 있는 신경망 및 대규모 언어 모델에서 특히 관련이 있다.
딥 러닝에서 지식 수준은 수백만 개의 가중치나 특정 아키텍처를 자세히 설명하지 않고 모델의 기능적 역량, 즉 무엇을 배웠고 무엇을 할 수 있는지를 설명하는 데 자주 사용된다. 예를 들어, 텍스트로 훈련된 트랜스포머 모델은 기호 수준 구현이 멀티 헤드 어텐션, 위치 인코딩, 레이어 정규화를 포함하더라도, 언어에 대한 사실을 알고 일관된 응답을 생성할 수 있는 것으로 지식 수준에서 설명될 수 있다.
합리성 원칙과 목표 지향 행동
합리성 원칙은 지식 수준의 핵심이다. 이는 에이전트가 자신의 지식에 비추어 목표 충족으로 이끌 것이라고 믿는 행동을 선택할 것이라고 명시한다. 이 원칙은 지식 수준을 예측적으로 사용할 수 있게 한다. 에이전트가 무엇을 알고 무엇을 원하는지 알면, 내부적으로 정보를 처리하는 방식을 알 필요 없이 무엇을 할지 추론할 수 있다.
이 접근 방식은 에이전트가 관찰(지식)에 기반하여 보상(목표)을 최대화하도록 훈련되는 강화 학습 및 커리큘럼 학습에 적용되었다. 또한 인간 선호도를 인코딩하는 보상 신호로 모델의 행동을 형성하는 OpenAI 및 Anthropic 모델 정렬에 사용되는 RLHF(인간 피드백 기반 강화 학습)의 기반이 된다.
비판과 한계
일부 연구자들은 지식 수준이 실제 사용에는 너무 추상적이라고 주장한다. 이는 에이전트의 지식과 목표에 대한 완전하고 일관된 명세를 가정하는데, 이는 실제 시스템에서 종종 사용할 수 없기 때문이다. 다른 이들은 학습하거나 적응하는 시스템에서 지식과 기호 수준의 구분이 흐려질 수 있다고 지적한다. 그러한 시스템에서는 지식 자체가 기호 수준 프로세스에 의해 수정되기 때문이다. 그럼에도 불구하고 지식 수준은 인지 과학과 AI의 기초 개념으로 남아 있으며, 지능적 행동을 논의하기 위한 명확한 어휘를 제공한다.
같이 보기
- 지식 수준 모델링
- 지식 상대성
- 지식 기반 에이전트
참고 문헌
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. November 1996.