Attributional calculus는 Ryszard S. Michalski가 정의한 논리 및 표현 시스템이다. 이 시스템은 술어 논리, 명제 논리, 다치 논리의 요소를 결합한다. 이 시스템은 자연 귀납(natural induction)을 위한 형식 언어를 제공하며, 자연 귀납은 결과가 인간이 읽을 수 있는 형태로 나오는 귀납적 학습 과정이다.
Attributional calculus는 2004년 보고서 "ATTRIBUTIONAL CALCULUS: A Logic and Representation Language for Natural Induction"에서 소개되었다. 이 보고서는 버지니아주 페어팩스에 있는 조지 메이슨 대학교의 기계 학습 및 추론 연구소(Machine Learning and Inference Laboratory)에서 발행했다. 이 연구는 초기 귀납적 학습 프레임워크의 한계, 특히 인간이 해석하기 어려운 형식주의에 의존하는 문제를 해결하고자 했다.
핵심 원리
Attributional calculus는 속성 기반 표현을 도입하여 고전 논리를 확장한다. 술어와 변수를 사용하는 표준 술어 논리와 달리, 이 시스템은 속성 부여(attribution)를 통해 지식을 표현한다. 속성 부여는 객체에 속성이나 값을 할당하는 진술이다. 각 속성 부여는 객체와 값 사이의 관계로 구조화되며, 종종 신뢰도나 확실성 수준이 함께 제시된다.
이 계산법은 세 가지 논리 전통을 통합한다. 관계를 표현하는 술어 논리, 진리 함수적 연결사를 다루는 명제 논리, 부분적 진리나 불확실성을 처리하는 다치 논리가 그것이다. 이러한 결합은 부분적으로 참일 수 있는 미묘한 진술을 표현할 수 있게 하며, 이는 이진 논리 시스템에는 없는 특징이다.
핵심 특징은 주석이 달린 속성 부여(annotated attribution)의 사용이다. 각 주장에는 가중치나 한정사가 붙을 수 있다. 이러한 주석은 믿음의 정도, 확률, 퍼지 소속 값을 표현할 수 있게 하여, 데이터에 노이즈가 있거나 불완전한 기계 학습 상황에 적합한 시스템을 만든다.
자연 귀납
Attributional calculus의 주된 동기는 특정 예시로부터 일반 규칙을 학습하는 과정인 자연 귀납을 지원하는 것이었다. Michalski는 귀납 과정에서 생성된 가설이 인간의 자연 언어 진술과 유사한 형태로 표현될 수 있도록 언어를 설계하여 해석 가능성을 높였다.
자연 귀납에서 학습 알고리즘은 긍정적 예시와 부정적 예시 집합을 입력받아 속성 규칙(attributional rule)을 생성한다. 이러한 규칙은 일반적으로 "속성 부여 A와 B가 성립하면 속성 C가 성립한다"는 형태를 취하며, 각 속성 부여는 객체의 속성에 대한 값 할당이다. 인간이 읽을 수 있는 출력은 복잡한 1차 논리 공식을 생성했던 초기 기호 학습 방법과 이 접근법을 구별한다.
가독성에 대한 이러한 강조는 당시 인공지능 분야의 광범위한 흐름과 일치했다. 그 흐름은 학습된 모델의 투명성을 중시했다. 이 프레임워크는 형식 논리 기반 AI와 도메인 전문가가 학습된 지식을 검토하고 검증해야 하는 실제 응용 사이의 간극을 메우기 위한 것이었다.
다른 형식주의와의 관계
Attributional calculus는 객체와 그 속성을 중심으로 지식을 구성하는 기술 논리(description logic) 및 프레임 기반 지식 표현 시스템과 유사점을 공유한다. 그러나 다치 진리를 명시적으로 다루고 연역보다는 귀납에 초점을 둔다는 점에서 차이가 있다.
전통적인 명제 논리와 비교하면, Attributional calculus는 변수와 관계 구조를 허용하여 표현력을 높인다. 완전한 술어 논리와 비교하면, 양화에 제한을 두고 효율적인 규칙 학습을 지원하는 더 구조화된 구문을 사용한다. 다치 구성 요소는 충족의 정도를 허용하므로 모순되거나 불완전한 훈련 데이터를 처리하는 데 유용하다.
이 시스템은 퍼지 논리의 초기 연구와도 관련이 있지만, 연속적인 소속 함수에 의존하기보다는 기호적 지향을 유지한다. 이러한 요소들의 통합은 당시로서는 새로운 것이었으며, 논리 규칙과 확률적 추론을 결합한 이후의 하이브리드 기계 학습 접근법을 예고했다.
응용 및 유산
Michalski의 Attributional calculus 연구는 조지 메이슨 대학교 기계 학습 및 추론 연구소의 더 광범위한 연구 프로그램의 일부였다. 이 연구소는 속성 규칙 학습의 실용적 구현 역할을 한 AQ 알고리즘 계열을 포함하여 귀납적 학습의 기초 방법에 기여했다.
Attributional calculus가 다른 지식 표현 프레임워크만큼 널리 채택되지는 않았지만, 그 아이디어는 이후의 해석 가능한 기계 학습 연구에 영향을 미쳤다. 인간이 읽을 수 있는 가설에 대한 강조는 딥러닝 및 대규모 언어 모델 출력을 더 설명 가능하게 만들려는 현대의 노력을 예고한다. 주석이 달린 속성 부여의 개념은 논리 규칙과 확률을 결합한 확률 논리 프로그래밍 시스템을 예시하기도 했다.
현대의 기계 학습 실무에서 Attributional calculus의 직접적인 사용은 제한적이지만, 그 개념적 기여는 여전히 관련성이 있다. 이 프레임워크는 귀납 논리 프로그래밍과 지식 발견에 관한 학술 문헌에서 인용된다. 주로 AI의 역사와 기호적 학습 접근법에 관심이 있는 연구자들이 연구한다.
같이 보기
- 지식 표현
- 귀납 논리 프로그래밍
- 설명 가능한 인공지능
참고 문헌
Michalski, R.S., "ATTRIBUTIONAL CALCULUS: A Logic and Representation Language for Natural Induction," Reports of the Machine Learning and Inference Laboratory, MLI 04–2, George Mason University, Fairfax, VA, April, 2004.