KAoS(Knowledge-based Agent Orientation System)는 분산되고 이기종인 컴퓨팅 환경, 특히 자율 에이전트와 로봇 시스템을 포함하는 환경을 위해 설계된 정책 및 도메인 관리 프레임워크이다. Nokia Bell Labs와 관련된 인간 및 기계 인지 연구소(IHMC)의 연구에서 시작된 KAoS는 소프트웨어 에이전트와 서비스의 행동을 규율하는 정책을 지정, 분석, 시행하기 위한 형식적이고 의미론적인 접근 방식을 제공한다. 이는 온톨로지와 추론을 사용하여 에이전트가 취하는 행동이 정의된 규칙을 준수하도록 보장하며, 인공 지능 및 다중 에이전트 시스템을 위한 정책 기반 관리 분야의 기초 시스템이 되었다.
이 프레임워크는 1990년대 후반과 2000년대 초반에 개발되었으며, Jeffrey Bradshaw와 Andrzej Uszok과 같은 연구자들의 주요 기여가 있었다. KAoS는 에이전트가 변화하는 조건에 적응하면서 안전 및 운영 제약을 모두 준수해야 하는 동적 환경의 과제를 해결하기 위해 설계되었다. 그 아키텍처는 정책 지정과 시행을 분리하여 시스템을 중단하지 않고 런타임에 정책을 업데이트할 수 있게 한다. 이러한 기능 덕분에 KAoS는 군사 연합 작전부터 우주 탐사 및 의료 로봇 공학에 이르는 다양한 영역에서 관련성을 유지해 왔다.
아키텍처 및 구성 요소
KAoS는 Java 에이전트 개발 프레임워크(JADE) 및 Cougaar 다중 에이전트 시스템과 같은 에이전트 플랫폼과 통합되는 서비스 지향 아키텍처를 중심으로 구축된다. 핵심 구성 요소에는 정책 온톨로지, 정책 관리 서비스, 일련의 시행 메커니즘이 포함된다. 웹 온톨로지 언어(OWL)로 작성된 온톨로지는 행동, 행위자, 맥락과 같은 개념을 정의하여 정확하고 기계가 읽을 수 있는 정책 정의를 가능하게 한다. 정책 관리 서비스는 생성, 검증, 배포를 포함한 정책의 수명 주기를 처리하며, 시행 지점은 에이전트 행동을 가로채어 준수 여부를 확인한다.
KAoS의 독특한 특징은 의미 웹 기술을 사용하여 정책에 대해 추론한다는 점이다. 이를 통해 시스템은 정책 간의 충돌을 감지하고, 행동의 결과를 추론하며, 명시적인 재프로그래밍 없이 새로운 상황에 적응할 수 있다. 이 프레임워크는 긍정 및 부정 승인뿐만 아니라 의무도 지원하여 복잡한 규칙을 표현하기 위한 풍부한 어휘를 제공한다.
자율 시스템에서의 응용
KAoS는 여러 고위험 영역에 적용되었다. 군사 부문에서는 DARPA가 지원하는 연합 작전 실험(CoAX) 프로젝트에서 연합군 간의 정책을 관리하여 자율 자산이 합의된 교전 규칙 내에서 작동하도록 보장하는 데 사용되었다. 우주 탐사에서는 NASA의 NASA Mobile Agents 프로젝트 소프트웨어에 통합되어 여러 로버와 지상 시스템을 조정했다. 더 최근에는 의료 분야, 특히 안전 정책이 중요한 병원 환경에서 보조 로봇을 관리하는 데 이 프레임워크가 탐구되었다.
동적 정책 업데이트를 처리하는 프레임워크의 능력은 환경과 임무 매개변수가 자주 변경되는 로봇 공학 응용 분야에서 가치가 입증되었다. 예를 들어, 수색 및 구조 시나리오에서 KAoS는 실시간 센서 데이터와 인간의 감독에 기반하여 드론 작전에 대한 권한을 조정할 수 있다.
현대 AI와의 관계
KAoS는 현재의 딥 러닝 및 대규모 언어 모델 물결보다 앞서 있지만, 그 원칙은 현대 AI 거버넌스와 여전히 관련이 있다. 이 프레임워크의 명시적이고 검증 가능한 정책에 대한 강조는 많은 현대 AI 시스템의 통계적이고 불투명한 특성과 대조된다. 그러나 KAoS는 머신 러닝 구성 요소와 함께 작동하도록 적응되어 학습된 모델이 제안한 행동에 대한 규칙 기반 감독 계층을 제공한다. 이러한 하이브리드 접근 방식은 AI 안전 및 정렬 맥락에서 점점 더 논의되고 있으며, 여기서 신경망과 기호 추론을 결합하는 것이 신뢰성을 보장하는 방법으로 여겨진다.
연구자들은 KAoS의 온톨로지 기반 접근 방식이 RLHF(인간 피드백으로부터의 강화 학습)와 같은 기술을 보완하여 학습된 정책이 충족해야 하는 제약 조건에 대한 형식적 사양을 제공할 수 있다고 지적했다. 이러한 통합은 특히 자율 주행 차량 및 자율 주행 자동차 영역에서 안전 보장이 가장 중요한 활발한 연구 분야이다.
유산 및 영향
KAoS는 이후의 정책 관리 시스템, 특히 상용화되어 다양한 정부 및 산업 프로젝트에서 사용된 KAoS Policy and Domain Services에 영향을 미쳤다. 그 설계 원칙은 정책 지정에 형식 논리를 사용하는 Ponder 언어 및 Rei 정책 프레임워크와 같은 다른 프레임워크에도 채택되었다. IHMC 팀은 관련 도구를 계속 개발하고 있으며, KAoS는 다중 에이전트 시스템을 위한 정책 기반 관리의 전형적인 예로 학술 문헌에서 인용된다.
오래되었음에도 불구하고 KAoS는 자율 시스템에서 윤리적 및 운영적 제약을 시행하는 방법에 대한 논의의 기준점으로 남아 있다. AI 시스템이 더욱 보편화됨에 따라 KAoS와 같은 강력하고 동적인 정책 시행 메커니즘의 필요성은 증가할 가능성이 높으며, 연구와 실무 모두에서 지속적인 관련성을 보장한다.
같이 보기
- 인공 지능
- 다중 에이전트 시스템
- 로봇 공학
- 정책 기반 관리
- 의미 웹