다중 에이전트 시스템은 현대 AI의 맥락에서, 여러 개의 개별 AI agent 인스턴스가 서로 상호작용하는 아키텍처로, 일반적으로 협력, 작업 분담, 또는 서로의 작업을 검토함으로써 단일 에이전트가 혼자 처리할 때보다 덜 효과적일 작업을 완수한다. 각 에이전트는 보통 Large language model을 기반으로 하며, 종종 자신의 고유한 System prompt를 통해 별도의 역할, 페르소나, 또는 도구 세트를 부여받고, 에이전트들은 메시지를 주고받거나, 작업 공간을 공유하거나, 공통 상태를 읽고 쓰는 방식으로 소통한다.
다중 에이전트 시스템의 개념은 대규모 언어 모델보다 훨씬 오래되었으며, 분산 인공지능과 Reinforcement learning 연구에서 독립적인 에이전트들이 공유 환경 내에서 협력하거나 경쟁하는 방식을 연구한 오랜 역사를 가진다. LLM 특화 버전의 아이디어는 2023년부터 2025년까지의 광범위한 에이전트 붐에서 직접 성장했다. 개별 에이전트가 Tool use (function calling)를 사용하여 다단계 작업을 완료할 만큼 신뢰할 수 있게 되자, 연구자와 개발자들은 소프트웨어 개발, 연구, 또는 토론과 같은 자연스러운 역할 분할이 있는 작업을 처리하기 위해 여러 에이전트를 함께 구성하기 시작했다.
일반적인 패턴
여러 조직 패턴이 다중 에이전트 프레임워크에서 반복적으로 나타난다. 오케스트레이터-워커 패턴에서는 한 에이전트가 작업을 하위 작업으로 분해하고 이를 전문화된 워커 에이전트들에게 배분한 다음, 그 결과를 결합한다. 이 구조는 여러 하위 주제를 병렬로 연구하는 것과 같이 자연스럽게 분해되는 작업에 잘 맞는다. 토론 또는 비평 패턴에서는 두 개 이상의 에이전트가 최종 답변이 생성되기 전에 답변을 제안하거나 서로의 추론을 비평하며, 단일 모델이 스스로 놓칠 수 있는 오류를 드러내는 것을 목표로 한다. 파이프라인 패턴에서는 에이전트가 고정된 순서로 배열되어 각각 더 큰 프로세스의 한 단계를 처리한다. 예를 들어 초안 작성 에이전트 다음에 편집 에이전트와 사실 확인 에이전트가 이어지는 방식이다. 일부 시스템은 서로에게 직접 메시지를 전달하는 대신 여러 에이전트가 비동기적으로 읽고 쓰는 공유 블랙보드 또는 문서를 사용하기도 한다.
장점과 근거
지지자들은 복잡한 작업을 각각 더 좁은 역할과 그에 상응하는 더 단순한 Prompt을 가진 전문화된 에이전트들로 분할하면, 한 에이전트가 전체 복잡한 작업을 한 번에 유지하도록 요청하는 것보다 더 신뢰할 수 있는 결과를 생산할 수 있다고 주장한다. 특히 단일 Context window을 초과하거나 결과가 선택되기 전에 독립적이고 상관관계가 덜한 시도가 도움이 되는 작업에 그렇다. 다중 에이전트 토론과 비평 설정은 특히 Hallucination (AI) 및 추론 오류를 줄이는 방법으로 연구되었으며, 그 전제는 신선한 맥락에서 다른 에이전트의 출력을 검토하는 에이전트가 원래 에이전트가 자신의 작업을 검토할 때보다 실수를 발견할 가능성이 더 높다는 것이다.
한계와 비판
다중 에이전트 시스템은 고유한 비용과 실패 모드를 도입한다. 여러 에이전트를 실행하면 각 에이전트가 일반적으로 자체 컨텍스트를 유지하고 기본 모델을 여러 번 호출할 수 있으므로 단일 에이전트와 비교하여 토큰 사용량과 지연 시간이 배가된다. 조정 실패도 흔하다. 에이전트가 서로를 지나쳐 말하거나, 작업을 중복하거나, 서로를 기다리며 멈추거나, 핸드오프가 진행됨에 따라 오류가 누적되면서 원래 작업에서 벗어날 수 있다. 이는 단일 에이전트에 대해 논의된 신뢰성 문제와 밀접하게 관련된 위험이다. 일부 실무자들은 여러 에이전트를 필요로 한다고 홍보되는 많은 작업이 좋은 Prompt engineering과 올바른 도구에 접근할 수 있는 충분히 유능한 단일 에이전트로도 동일하게, 그리고 더 저렴하게 처리될 수 있다고 주장하며, 다중 에이전트 아키텍처를 엄격하게 우월한 기본값이라기보다 진정한 엔지니어링 트레이드오프로 만든다. 2025년 현재, 다중 에이전트 프레임워크는 에이전트가 통신해야 하는 방식에 대한 단일 지배적인 표준 없이 활발한 도구 개발 영역으로 남아 있으며, Model Context Protocol 및 도구와 컨텍스트 인터페이스를 표준화하려는 관련 노력이 일부 프로젝트에 의해 에이전트 간 통신으로도 확장되었다.