AI 에이전트는 현대 생성형 AI의 맥락에서, 대규모 언어 모델을 중심으로 구축된 시스템으로, 일련의 단계를 계획하고 외부 도구 사용을 통해 행동을 취하며, 그 행동의 결과를 관찰하고 목표를 향해 반복하는 시스템이다. 단순히 하나의 프롬프트에 하나의 응답을 생성하는 것이 아니라, 에이전트를 일반 챗봇과 구별 짓는 핵심 특징은 루프(loop)이다. 모델의 출력이 반드시 사용자에게 보여지는 최종 답변이 아니라, 다음에 무엇을 할지에 대한 결정일 수 있으며, 이 결정은 실행되고 모델의 컨텍스트 창에 다시 피드백되어 다음 단계를 결정하는 데 사용되며, 작업이 완료되거나 한계에 도달할 때까지 계속된다.
이 용어는 대규모 언어 모델보다 앞서며, 인공지능과 로보틱스 분야에서 오랫동안 환경을 인식하고 그에 따라 행동하는 모든 시스템을 설명하는 데 사용되어 왔다. 여기에는 단순한 규칙 기반 에이전트와 강화 학습 에이전트(예: 알파고)가 포함된다. LLM 기반 시스템으로서 도구를 호출하고 다단계 작업을 수행하는 현재의 용법은 2023년부터 널리 퍼지기 시작했으며, AutoGPT와 같은 초기 실험에 이어 2024년과 2025년에 걸쳐 모델이 도구 호출을 안정적으로 선택하고 순서를 정하는 능력이 향상되면서 급격히 가속화되었다. 이 시기는 업계 논평에서 더 넓은 AI 붐의 "에이전틱(agentic)" 물결로 널리 묘사된다.
구성 요소
일반적인 에이전트는 여러 요소를 결합한다. 추론과 의사 결정을 수행하는 기본 언어 모델, 코드 인터프리터, 웹 검색 기능 또는 API와 같이 호출할 수 있는 도구 세트(구조화된 도구 호출을 통해 노출됨), 작업에서 지금까지 발생한 상황을 추적하는 메모리 또는 상태 메커니즘(종종 단순히 누적된 컨텍스트이지만, 일부 시스템은 더 긴 작업을 위해 외부 저장소를 추가함), 그리고 작업이 완료되었는지 또는 인간에게 입력을 요청할지 결정하는 제어 루프가 포함된다. 많은 에이전트 프레임워크는 에이전트가 작업 중간에 관련 문서를 조회할 수 있도록 검색 증강 생성을 통합하며, 일부는 에이전트가 전용 API를 통하지 않고 웹 브라우저와 같은 그래픽 인터페이스를 직접 조작할 수 있게 하는 컴퓨터 사용을 지원한다.
표준화
에이전트가 연결할 수 있는 도구의 수가 증가함에 따라 각 도구를 각 모델에 맞춤형 통합 코드로 연결하는 것은 확장 문제가 되었다. 앤트로픽은 2024년 11월에 언어 모델을 외부 도구 및 데이터 소스에 균일한 방식으로 연결하기 위한 개방형 표준으로 모델 컨텍스트 프로토콜을 도입했으며, 이는 2025년까지 경쟁 연구소를 포함한 업계 전반에서 에이전틱 도구 사용을 위한 공통 인터페이스 계층으로 널리 채택되었다.
응용 분야
에이전틱 시스템은 소프트웨어 엔지니어링에 적용되어 왔으며, 여기서 깃허브 코파일럿, 커서, 클로드 코드와 같은 도구는 단일 턴 코드 완성에서 코드베이스를 읽고, 테스트를 실행하고, 다중 파일 편집을 자율적으로 수행할 수 있는 에이전트로 진화했다. 또한 연구 및 정보 수집 분야에서는 에이전트가 일련의 검색을 수행하고 결과를 종합하며, 브라우저 및 컴퓨터 자동화 분야에서는 에이전트가 인간 사용자처럼 소프트웨어를 조작한다. SWE-벤치와 같은 벤치마크는 단일 코드 스니펫이 아닌 파일 편집과 테스트 실행의 종단 간 시퀀스를 요구하기 때문에 에이전틱 코딩 성능을 측정하기 위해 특별히 채택되었다.
신뢰성과 비판
에이전트 신뢰성은 여전히 핵심적인 미해결 문제로 남아 있다. 긴 작업 체인 초기의 작은 오류가 누적될 수 있고, 도구 호출이 실패하거나 오용될 수 있으며, 에이전트는 오류가 명백해지기 전까지 여러 단계 동안 그럴듯하지만 잘못된 계획을 추구할 수 있는데, 이를 때때로 "에이전트 드리프트(agent drift)"라고 한다. 신뢰할 수 없거나 적대적인 입력에 대해 에이전트가 행동하는 것에 대한 우려로 인해 프롬프트 주입은 에이전틱 시스템에 특화된 중요한 안전 문제가 되었다. 실제 도구와 데이터에 접근할 수 있는 에이전트는 원칙적으로 바람직하지 않은 텍스트를 생성하는 것에 그치지 않고 유해한 실제 세계 행동을 취하도록 조작될 수 있기 때문이며, 이는 일반 챗봇에는 직접적인 유사점이 없는 위험 범주이다.