에이전틱 AI(Agentic AI)는 AI 에이전트라고도 불리며, 환경을 인식하고 결정을 내리며 장기간에 걸쳐 행동을 취함으로써 목표를 자율적으로 추구하는 인공지능 시스템을 설명한다. 이 개념은 주변을 인식하고 목표 달성을 위해 행동하며 머신 러닝이나 지식 획득을 통해 성능을 개선할 수 있는 모든 개체를 의미하는 지능형 에이전트의 더 넓은 개념을 확장한 것이다. AI 교과서에서 인공지능 분야는 종종 지능형 에이전트의 연구와 설계로 정의되며, 목표 지향적 행동이 지능의 핵심으로 간주된다.
지능형 에이전트는 온도 조절기와 같은 단순한 제어 시스템에서부터 인간, 기업, 국가와 같은 복잡한 개체에 이르기까지 다양하다. 에이전틱 AI는 특히 능동적이고 지속적인 자율성을 강조하며, 즉각적인 입력에 단순히 반응하는 반응형 시스템과 구별된다. 이러한 에이전트는 목표를 포함하는 목적 함수(objective function)를 기반으로 작동하며, 완료 시 해당 함수의 기대 가치를 최대화하는 계획을 수립하고 실행하도록 설계된다.
인공지능의 에이전트 기반 정의
스튜어트 러셀(Stuart Russell)과 피터 노빅(Peter Norvig)은 그들의 영향력 있는 교과서에서 인공지능을 환경으로부터 지각(percept)을 받고 행동을 수행하는 에이전트의 연구로 설명한다. 이 프레임워크에서 에이전트는 센서를 통해 지각하고 액추에이터를 통해 행동한다. 합리적 에이전트는 지각 시퀀스, 사전 지식, 사용 가능한 행동을 고려하여 성과 측정치를 최대화할 것으로 기대되는 행동을 선택한다. 합리성은 전지전능함이나 성공 보장을 요구하지 않으며, 사용 가능한 정보에 기반한 기대 결과에 관한 것이다.
에이전트 지향 컴퓨팅에서 에이전트는 자율성, 환경 변화에 대한 반응성, 목표 지향적 또는 능동적 행동과 같은 속성으로 특징지어진다. 한 가지 모델링 접근 방식은 신념-욕구-의도(BDI) 아키텍처로, 세계에 대한 정보, 목표, 그리고 약속된 행동 경로의 관점에서 에이전트를 표현한다. 이 아키텍처는 이론적 및 응용 AI 연구 모두에서 영향력을 발휘해 왔다.
목적 함수와 목표 명세
목적 함수는 지능형 에이전트의 목표를 명시한다. 에이전트가 목적 함수와 더 잘 일치하는 결과를 산출하는 행동을 일관되게 선택할수록 더 지능적인 것으로 간주된다. 목적 함수는 성공의 척도로 작용하며 단순하거나 복잡할 수 있다. 예를 들어, 바둑 게임에서 목적 함수는 승리에 1, 패배에 0의 값을 할당할 수 있는 반면, 자율주행 자동차의 목적 함수는 안전, 속도, 승객 편안함 사이의 균형을 맞출 수 있다.
이 개념을 설명하는 용어는 맥락에 따라 다르다. 효용 함수(utility function)는 경제학과 결정 이론에서 자주 사용되며 상태의 바람직함을 나타낸다. 목적 함수는 최적화에서 일반적인 용어이고, 손실 함수(loss function)는 오류 최소화를 목표로 하는 머신 러닝에서 사용된다. 보상 함수(reward function)는 강화 학습에 등장하며, 적합도 함수(fitness function)는 진화 시스템에서 사용된다. 목표는 명시적으로 프로그래밍되거나 학습 또는 진화를 통해 유도될 수 있다.
에이전틱 시스템에서의 학습과 적응
강화 학습에서 보상 함수는 바람직한 행동을 장려하고 바람직하지 않은 행동을 억제하는 피드백을 제공하며, 에이전트는 누적 보상을 최대화하도록 학습한다. 프로그래머는 최종 목표를 향한 진행에 대해 점진적 보상을 제공하기 위해 보상 형성(reward shaping)을 사용할 수 있다. 진화 시스템은 적합도 함수를 사용하여 어떤 에이전트가 재생산할 가능성이 더 높은지 결정하며, 이는 자연 선택과 유사하다. 얀 르쿤(Yann LeCun)은 2018년에 대부분의 학습 알고리즘이 본질적으로 어떤 목적 함수를 최소화하는 것으로 구성된다고 밝혔다.
최근접 이웃 방법과 같은 일부 AI 시스템은 명시적으로 목표 지향적이기보다는 유추에 의해 추론한다. 그러나 이러한 시스템조차도 훈련 데이터 내에 암묵적으로 정의된 목표를 가질 수 있다. 전통적으로 에이전트로 간주되지 않는 지식 표현 시스템과 같은 시스템도 질문에 정확하게 답하는 목표를 가진 에이전트로 구성될 수 있다. 생성형 AI에서 모방 기반 시스템은 생성적 적대 신경망에서 생성기가 판별기를 속이려고 하는 것처럼 원하는 행동을 얼마나 가깝게 모방하는지에 기반한 목표 함수를 최적화하는 것으로 구성될 수 있다.
응용 및 더 넓은 맥락
에이전틱 AI는 경제학의 에이전트와 밀접한 관련이 있으며, 지능형 에이전트 패러다임의 변형은 인지 과학, 윤리학, 실천 이성의 철학에서 연구된다. 이 개념은 학제 간 사회인지 모델링과 컴퓨터 사회 시뮬레이션에도 나타난다. 지능형 에이전트는 종종 컴퓨터 프로그램과 유사한 추상적 기능 시스템으로 개략적으로 설명되며, 추상적 설명을 가진 것을 추상 지능형 에이전트라고 한다. 또한 사용자를 대신하여 작업을 수행하는 자율 컴퓨터 프로그램인 소프트웨어 에이전트와도 관련이 있으며, 경제학에서 차용한 용어인 합리적 에이전트라고도 불린다.
에이전틱 AI의 현대적 구현은 종종 대규모 언어 모델과 트랜스포머 아키텍처를 기반으로 하여, 시스템이 계획을 세우고 도구를 사용하며 확장된 시간 범위에서 작동할 수 있게 한다. MIT CSAIL, 스탠포드 AI 랩, 버클리 AI 연구와 같은 연구 기관은 이러한 시스템을 발전시키는 데 기여해 왔다. OpenAI, Anthropic, Google DeepMind와 같은 기업은 추론과 행동을 통합하는 에이전틱 프레임워크를 개발했지만, 이 분야는 계속해서 빠르게 진화하고 있다.