인식론적 양상 논리는 지식과 믿음에 대한 추론을 형식화하는 양상 논리의 한 분야이다. 이는 명제 논리를 개별 행위자가 무엇을 알거나 믿는지를 표현하는 양상 연산자로 확장하여, "행위자 A는 명제 P를 안다" 또는 "행위자 B는 행위자 A가 P를 안다고 믿는다"와 같은 진술을 정밀하게 분석할 수 있게 한다. 이 체계는 철학에서 기원했지만, 컴퓨터 과학, 경제학, 인공지능에서 다중 행위자 시스템, 분산 프로토콜, 게임 이론적 시나리오를 모델링하는 핵심 도구가 되었다.
인식론적 양상 논리의 형식 언어는 일반적으로 명제 변수 집합, 불리언 연결사, 각 행위자 i에 대한 양상 연산자 K_i를 포함하며, 여기서 K_i φ는 "행위자 i가 φ를 안다"로 읽는다. 다중 행위자 시스템에서는 종종 집단 G에 대한 공통 지식(C_G φ)과 분산 지식(D_G φ)을 위한 연산자를 추가한다. 1950년대 후반 솔 크립키가 도입하고 1976년 로버트 아우만이 정교화한 표준 의미론은 가능 세계 집합과 각 행위자에 대한 동치 관계로 구성된 크립키 프레임을 사용한다. 공식 K_i φ는 세계 w에서 참인데, 이는 φ가 행위자 i가 w에서 가능하다고 간주하는 모든 세계에서 성립할 때이다.
공리 체계
가장 일반적인 인식론적 논리인 S5는 다음 공리와 규칙으로 특징지어진다. 공리 K는 행위자가 함의를 알고 그 전건을 알면 그 후건도 안다는 것을 나타낸다: K_i(φ → ψ) → (K_i φ → K_i ψ). 공리 T는 지식이 진리를 함의한다는 것을 나타낸다: K_i φ → φ. 공리 4(긍정적 내성)는 행위자가 φ를 알면 그 행위자가 φ를 안다는 것을 안다는 것을 나타낸다: K_i φ → K_i K_i φ. 공리 5(부정적 내성)는 행위자가 φ를 모르면 그 행위자가 φ를 모른다는 것을 안다는 것을 나타낸다: ¬K_i φ → K_i ¬K_i φ. 필연화 규칙은 정리 φ에서 K_i φ를 도출할 수 있게 한다.
더 약한 체계는 이러한 공리를 완화한다. 논리 KT(또는 T라고도 함)는 공리 4와 5를 제거하여 행위자가 내성이 없을 수 있게 한다. 논리 S4는 공리 4를 유지하지만 공리 5를 제거하며, 이는 지식보다는 믿음에 자주 사용된다. 믿음의 경우 공리 T는 공리 D로 대체된다: B_i φ → ¬B_i ¬φ, 이는 믿음이 일관적이지만 반드시 진실은 아님을 나타낸다. 이러한 구분은 행위자가 불완전하거나 부정확한 정보를 가진 응용에서 중요하다.
의미론과 가능 세계
가능 세계 의미론은 지식을 인식론적으로 접근 가능한 모든 세계에서의 진리로 해석한다. 인식론적 모델 M = (W, R_1, ..., R_n, V)은 세계 집합 W, 각 행위자에 대한 접근 관계 R_i, 각 세계에서 명제 변수에 진리값을 할당하는 평가 V로 구성된다. 지식의 경우 각 R_i는 동치 관계(반사적, 대칭적, 추이적)이며, 이는 행위자가 인식론적으로 동일한 세계를 구별할 수 없음을 반영한다. 세계 w에서 K_i φ의 진리 조건은: w R_i v인 모든 v에 대해 M, v ⊨ φ이다.
1969년 데이비드 루이스와 1976년 로버트 아우만이 형식화한 공통 지식은 "모두가 모두가 안다는 것을 안다..."의 무한 연언으로 정의된다. 집단 G에 대해 C_G φ는 φ가 G 구성원의 접근 관계의 유한한 수열을 통해 도달 가능한 모든 세계에서 참일 때 성립한다. 이 개념은 분산 시스템에서의 조정된 행동과 합의 및 관례 분석에 중요하다.
컴퓨터 과학과 인공지능에서의 응용
인식론적 논리는 1980년대와 1990년대 다중 행위자 시스템 연구의 초석이 되었다. 1985년 조셉 할펀과 요람 모세는 분산 시스템에서 지식과 공통 지식에 대한 기초 작업을 발표하여, 인식론적 조건이 조정 공격 문제와 같은 조정 문제의 해결 가능성을 특징짓는 방식을 보여주었다. 진흙 투성이 아이 퍼즐은 고전적인 예로, 무지에 대한 공개 선언이 공통 지식을 생성하고 고차 지식에 대한 추론을 가능하게 하는 방식을 보여준다.
인공지능에서 인식론적 논리는 지식 표현과 추론의 형식적 기반을 제공한다. 이는 행위자의 행동이 지식 상태에 의존하는 지식 기반 프로그램을 모델링하는 데 적용되었다. 이 체계는 또한 행위자가 목표 달성을 위해 다른 사람이 무엇을 아는지 추론하는 인식론적 계획의 기초가 된다. 게임 이론에서 아우만의 1976년 의견 불일치에 대한 결과는 행위자가 서로의 사후 믿음에 대한 공통 지식을 가지면 의견 불일치에 동의할 수 없음을 보여주며, 인식론적 논리를 경제적 추론과 연결한다.
동적 인식론적 논리
1989년 얀 플라자가 개발하고 이후 한스 반 디트마르슈, 비베 반 데르 호크, 바르텔드 코이가 확장한 동적 인식론적 논리(DEL)는 공개 선언이나 사적 통신을 통한 지식 변화를 위한 연산자를 추가한다. φ의 공개 선언은 φ가 거짓인 모든 세계를 제거하여 모델을 변환하며, 선언 연산자 [φ!]ψ는 선언 후 ψ가 성립함을 나타낸다. 이 체계는 정보 공개, 거짓말, 다중 행위자 환경에서의 속임수의 효과와 같은 현상을 포착한다.
DEL은 통신 프로토콜, 보안 프로토콜, 사회적 상호작용을 모델링하는 데 적용되었다. 예를 들어, 공개 선언의 논리는 φ의 진실한 선언 후 행위자가 그에 따라 지식을 업데이트하여 잠재적으로 새로운 공통 지식을 생성할 수 있음을 표현할 수 있다. 이 체계는 또한 사적 메시지와 동시 선언과 같은 더 복잡한 행동을 처리하여 정보 흐름 분석을 위한 풍부한 도구를 제공한다.
최근 발전과 과제
인식론적 논리는 게임 이론, 인과성, 머신 러닝과의 연결로 계속 진화하고 있다. 연구자들은 다중 행위자 시스템에서 공정 분배, 프라이버시, 보안에 대한 인식론적 조건을 탐구했다. 확률적 인식론적 논리와 같은 인식론적 논리와 확률의 결합은 불확실성 하에서 믿음의 정도와 지식에 대한 추론을 가능하게 한다. 이는 결정 이론과 환경에 대한 확률적 믿음을 유지하는 AI 시스템 모델링에 응용된다.
한 가지 공개된 과제는 인식론적 논리에서 모델 검사와 만족 가능성의 계산 복잡성이다. 다중 행위자를 가진 S5의 경우 만족 가능성은 PSPACE-완전이며, 모델 검사는 고정된 공식에 대해 다항식 시간에 수행될 수 있다. 동적 인식론적 논리는 종종 더 높은 복잡성을 가지며, 일부 변형은 결정 불가능하다. 이러한 복잡성 결과는 실용적 추론 도구의 설계를 안내하고 대규모 다중 행위자 시스템에서 형식 검증의 확장성을 제한한다.
현대 AI의 맥락에서 인식론적 논리는 AI 시스템이 무엇을 알거나 모르는지를 지정하는 형식 언어를 제공하며, 이는 투명성과 견고성에 관련된다. Stanford AI Lab 및 BAIR (Berkeley AI Research)와 같은 기관의 연구자들은 인식론적 논리와 Machine learning 모델 간의 연결을 탐구했으며, 특히 Large language model이 지식과 불확실성에 대해 추론하는 작업에서 그러하다. 그러나 이러한 응용은 여전히 활발한 연구 영역이며, 인식론적 논리를 딥 러닝 시스템에 직접 통합하는 것은 2025년 현재 아직 초기 단계이다.
같이 보기
- Multi-agent system
- knowledge-representation
- modal-logic
- Game theory
- formal-verification