AI 에이전트(agentic AI라고도 함)는 센서를 통해 환경을 인식하고 액추에이터를 통해 행동하여 특정 목표를 달성하는 자율적 실체이다. 이 개념은 AI를 지능적 에이전트의 연구 및 설계로 설명하는 에이전트 기반 인공지능 정의의 핵심이다. 에이전트는 온도 조절기와 같은 단순한 제어 시스템부터 자율 주행 자동차나 인간과 같은 매우 복잡한 시스템까지 다양하며, 기계 학습이나 지식 획득을 통해 시간이 지남에 따라 성능을 개선할 수 있다.
"지능적 에이전트"라는 용어는 인공지능의 광범위한 분야에서 유래했으며, Stuart Russell과 Peter Norvig의 교과서에서는 환경을 인식하고 행동을 수행하는 모든 것으로 정의한다. 합리적 에이전트는 지각 시퀀스, 사전 지식, 사용 가능한 행동을 고려하여 성과 측정치를 최대화할 것으로 기대되는 행동을 선택한다. 이러한 합리성은 전지성이나 성공 보장을 요구하지 않으며, 이용 가능한 정보에 기반한 기대 결과에 관한 것이다. 에이전트는 또한 자율성, 환경 변화에 대한 반응성, 목표 지향적 또는 능동적 행동과 같은 속성으로 특징지어지며, 종종 신념-욕구-의도(BDI)와 같은 아키텍처를 사용하여 모델링된다.
목적 함수
목적 함수(목표 함수라고도 함)는 지능적 에이전트의 목표를 지정하고 성공의 척도로 작용한다. 에이전트가 이 함수와 더 잘 일치하는 결과를 산출하는 행동을 일관되게 선택할수록 더 지능적인 것으로 간주된다. 이 함수는 바둑 게임에서 승리에 +1, 패배에 -1을 할당하는 것처럼 단순할 수도 있고, 에이전트가 과거 행동을 평가하고 학습해야 하는 복잡한 것일 수도 있다. 이 함수는 모든 목표를 포함하며 자율 주행 자동차가 안전, 속도, 승객 편안함을 균형 있게 조정하는 것처럼 상충되는 목표 간의 절충을 통합한다.
다양한 맥락에서 이 개념에 대해 다양한 용어가 사용된다. 경제학과 의사 결정 이론에서는 효용 함수, 최적화에서는 목적 함수, 기계 학습에서는 손실 함수, 강화 학습에서는 보상 함수, 진화 시스템에서는 적합도 함수라고 한다. 목표는 명시적으로 프로그래밍되거나 학습 또는 진화를 통해 유도될 수 있다. 예를 들어, 강화 학습 에이전트는 누적 보상을 최대화하는 법을 배우는 반면, 진화 알고리즘의 행동은 어떤 에이전트가 재생산할지를 결정하는 적합도 함수에 의해 안내되며, 이는 자연 선택과 유사하다.
AI의 에이전트 기반 정의
Russell과 Norvig의 프레임워크는 AI를 환경에서 지각을 수신하고 행동을 수행하는 에이전트에 대한 연구로 설명한다. 이러한 관점에서 에이전트는 센서를 통해 인식하고 액추에이터를 통해 행동하는 모든 것이다. 합리적 에이전트는 지각 시퀀스, 사전 지식, 사용 가능한 행동을 고려하여 성과 측정치를 최대화할 것으로 기대되는 행동을 선택한다. 이 정의는 목표 지향적 행동이 지능의 핵심임을 강조하며, 단순한 시스템과 복잡한 시스템 모두에 적용된다.
에이전트 지향 컴퓨팅은 에이전트를 자율성, 반응성, 능동적 행동으로 더욱 특징짓는다. BDI 아키텍처는 세계에 대한 에이전트의 신념, 욕구(목표), 의도(약속된 행동 과정)를 나타내어 실용적 추론을 모델링한다. 이 접근 방식은 에이전트가 역동적인 환경에서 작동해야 하는 다중 에이전트 시스템과 로봇 공학에서 널리 사용된다.
유형 및 예시
지능적 에이전트는 복잡성과 학습 능력에 따라 분류될 수 있다. 단순 반사 에이전트는 현재 지각에만 반응하는 반면, 모델 기반 에이전트는 내부 상태를 유지한다. 목표 기반 에이전트는 목표를 달성하기 위해 미래 행동을 고려하고, 효용 기반 에이전트는 효용 함수를 최대화한다. 학습 에이전트는 강화 학습이나 진화 연산과 같은 피드백을 통해 성능을 개선한다.
예시로는 단순 반사 에이전트인 기본 온도 조절기와 승리에 +1, 패배에 -1이라는 단순한 목적 함수를 가진 체스 프로그램 AlphaZero가 있다. 더 복잡한 에이전트로는 여러 목표를 균형 있게 조정하는 자율 주행 자동차와 사용자를 대신하여 작업을 수행하는 소프트웨어 에이전트(예: 웨이모의 자율 주행 차량 또는 테슬라 오토파일럿 시스템)가 있다. 경제학에서 에이전트는 합리적 에이전트와 밀접한 관련이 있으며, 이 패러다임은 인지 과학, 윤리학, 철학에서 연구된다.
학습 및 적응
에이전트는 종종 학습 알고리즘을 통해 개선된다. 강화 학습에서 보상 함수는 피드백을 제공하여 바람직한 행동을 장려하고 바람직하지 않은 행동을 억제한다. 프로그래머는 진행 상황에 대해 점진적 보상을 제공하는 보상 형태화를 사용할 수 있으며, Yann LeCun은 2018년에 "사람들이 고안해 낸 대부분의 학습 알고리즘은 본질적으로 어떤 목적 함수를 최소화하는 것으로 구성된다"고 언급했다. 진화 연산은 적합도 함수에 의해 안내되어 의도적으로 행동하는 것처럼 보이는 에이전트를 진화시킬 수 있다.
최근접 이웃 분류기와 같은 일부 시스템은 명시적으로 목표 지향적이기보다는 유추에 의해 추론하지만, 훈련 데이터에 암묵적 목표를 가진 에이전트로 간주될 수 있다. 마찬가지로 지식 표현 시스템은 질문에 정확하게 답하는 목표를 가진 에이전트로 볼 수 있으며, "행동"의 개념을 답변 제공으로 확장한다. 2010년대 생성적 적대 신경망(GAN)에서 생성자는 판별자를 속이는 함수를 최대화하여 인간의 텍스트 작성을 모방하며, 이는 모방 기반 목표 함수를 보여준다.
응용 및 함의
AI 에이전트는 자율 주행 차량과 로봇 공학부터 가상 비서와 추천 시스템에 이르기까지 다양한 산업에 배포된다. 오픈AI, 앤트로픽, 구글 딥마인드와 같은 기업은 에이전트 기반 AI 시스템을 개발하며, 아마존 웹 서비스와 애저는 이를 배포하기 위한 클라우드 인프라를 제공한다. 이 패러다임은 또한 에이전트가 사회적 행동을 시뮬레이션하는 인지 과학 및 사회 인지 모델링 연구에도 영향을 미친다.
목적 함수의 설계는 에이전트가 의도하지 않은 결과를 최적화할 수 있으므로 윤리적 고려 사항을 제기한다. 예를 들어, 자율 주행 자동차의 목표는 안전과 속도를 신중하게 균형 있게 조정해야 한다. 에이전트가 더 자율적으로 변함에 따라 인간 가치와의 정렬을 보장하는 것이 중요해진다. 이로 인해 MIT CSAIL과 스탠포드 AI 랩과 같은 기관에서 AI 안전 및 해석 가능성에 대한 연구가 진행되었다.
미래 방향
대규모 언어 모델과 트랜스포머 아키텍처의 발전으로 장기간 추론하고 계획할 수 있는 더 정교한 에이전트가 가능해졌다. 종종 agentic AI라고 불리는 이러한 에이전트는 역동적인 환경에서 능동적으로 목표를 추구하고 결정을 내린다. 버클리 AI 연구와 카네기 멜론 대학교와 같은 학술 연구소의 기여로 학습 효율성, 견고성, 일반화 개선에 대한 연구가 계속되고 있다.
AI 에이전트의 진화는 인간 및 서로와 협력하는 더 통합된 시스템으로 이어질 가능성이 높으며, 이는 책임성과 통제에 대한 질문을 제기한다. 2020년대 초반 현재, 에이전트 기반 AI는 지능의 본질과 행동 형성에서 목적 함수의 역할에 대한 지속적인 논쟁과 함께 활기찬 분야로 남아 있다.