에이전트 스캐폴딩은 모델이 신뢰할 수 있는 에이전트로 작동하도록 만들기 위해 모델 주변에 구축된 프롬프트 및 워크플로 구조입니다. 인공지능에서 에이전트는 환경을 인식하고, 결정을 내리며, 목표를 달성하기 위해 행동을 취하는 시스템입니다. 원시 대규모 언어 모델은 텍스트를 생성합니다. 스캐폴딩은 이러한 텍스트 생성 능력을 관찰, 추론, 행동의 루프로 변환합니다. 이 구조는 일반적으로 시스템 프롬프트, 사용 가능한 도구 집합, 메모리 메커니즘, 그리고 모델이 도구를 호출해야 하는지 직접 응답해야 하는지를 결정하는 제어 흐름을 포함합니다.
이 용어는 2020년대 중반에 개발자들이 단순히 모델에게 "작업을 수행하라"고 프롬프트하는 것만으로는 복잡한 다단계 작업에 충분하지 않다는 것을 깨달으면서 두각을 나타냈습니다. 스캐폴딩은 필요한 안전장치, 상태 관리, 오류 처리를 제공합니다. 이는 질문에 답하는 챗봇과 항공편을 예약하거나, 코드를 작성하거나, 연구 프로젝트를 관리하는 에이전트 사이의 차이입니다. 이 개념은 생성형 AI 및 머신 러닝과 밀접하게 관련되어 있지만, 모델의 내부 매개변수보다는 모델 주변의 엔지니어링 계층에 초점을 맞춥니다.
역사적 배경
AI 시스템 주변에 구조화된 워크플로를 구축하는 아이디어는 현대 딥 러닝보다 앞섭니다. 1970년대와 1980년대의 초기 전문가 시스템은 도메인 지식을 인코딩하기 위해 규칙 기반 스캐폴딩을 사용했습니다. 그러나 스캐폴딩의 현대적 해석은 트랜스포머 기반 모델의 부상과 함께 등장했습니다. 2017년, 구글 딥마인드와 토론토 대학교의 연구자들은 어텐션 메커니즘이 장거리 의존성을 처리할 수 있음을 보여주어 더 복잡한 추론을 가능하게 했습니다. 2020년까지 오픈AI의 GPT-3는 대규모 모델이 지시를 따를 수 있음을 보여주었지만, 외부 시스템과 상호작용하는 능력은 부족했습니다.
전환점은 도구 사용의 도입과 함께 왔습니다. 2021년, OpenAI는 샌드박스에서 코드를 실행할 수 있는 Codex를 출시했습니다. 이는 초기 형태의 스캐폴딩이었습니다. 모델이 코드를 생성하고, 스캐폴드가 이를 실행하며, 출력이 모델에 다시 피드백되었습니다. 2022년, 앤트로픽은 헌법적 AI 접근 방식으로 Claude를 도입했고, 2023년까지 OpenAI와 Anthropic 모두 함수 호출을 위한 API 기능을 출시했습니다. 이러한 API는 개발자가 모델이 호출할 수 있는 도구를 정의할 수 있게 하여 스캐폴드 패턴을 공식화했습니다.
핵심 구성 요소
일반적인 에이전트 스캐폴드는 여러 상호 연결된 부분으로 구성됩니다. 시스템 프롬프트는 에이전트의 성격, 목표, 제약 조건을 설정합니다. 이는 가장 직접적인 형태의 스캐폴딩으로, 행동 방식, 사용 가능한 도구, 응답 형식에 대한 자세한 지침을 포함하는 경우가 많습니다. 도구 계층은 웹 검색, 코드 실행, 데이터베이스 쿼리, 파일 조작 또는 API 호출과 같은 외부 기능을 모델에 제공합니다. 각 도구는 일반적으로 이름, 설명, 매개변수 스키마와 함께 구조화된 형식으로 모델에 설명됩니다.
메모리는 또 다른 중요한 구성 요소입니다. 대규모 언어 모델은 고정된 컨텍스트 창을 가지므로, 스캐폴딩은 유지되는 정보를 관리해야 합니다. 단기 메모리는 최근 대화 기록을 유지하는 반면, 장기 메모리는 과거 상호작용의 임베딩을 저장하기 위해 벡터 데이터베이스를 사용할 수 있습니다. 이를 통해 에이전트는 세션 간에 사실을 기억할 수 있습니다. 제어 흐름은 루프를 결정합니다. 모델은 입력을 받고, 도구를 호출할지 최종 답변을 생성할지 결정하며, 스캐폴드는 도구를 실행하고 결과를 반환합니다. 이 루프는 모델이 완료를 신호할 때까지 계속됩니다.
도구 사용 및 함수 호출
도구 사용은 스캐폴딩의 가장 가시적인 측면입니다. 2023년, OpenAI는 API에서 함수 호출을 도입하여 모델이 도구 호출을 지정하는 구조화된 JSON을 출력할 수 있게 했습니다. Anthropic은 유사한 기능으로 뒤를 따랐습니다. 이러한 API는 개발자가 데이터베이스를 쿼리하거나, 이메일을 보내거나, 소프트웨어를 제어할 수 있는 에이전트를 쉽게 구축할 수 있게 했습니다. 스캐폴드는 실제 실행을 처리하고, 도구의 출력을 검증하며, 이를 모델에 다시 전달합니다.
예를 들어, 고객 지원 에이전트는 주문 조회, 환불 처리, 문제 에스컬레이션을 위한 도구를 가질 수 있습니다. 모델은 사용자 쿼리를 기반으로 호출할 도구를 결정합니다. 스캐폴드는 도구 호출이 안전하고, 출력이 예상 범위 내에 있으며, 모델이 무한 루프에 빠지지 않도록 보장합니다. 이 패턴은 이제 LangChain, AutoGPT, Microsoft의 Semantic Kernel과 같은 에이전트 프레임워크에서 표준이지만, 스캐폴딩 개념은 프레임워크에 구애받지 않습니다.
메모리 및 상태 관리
메모리는 단순한 챗봇과 신뢰할 수 있는 에이전트를 구분하는 핵심 요소입니다. 스캐폴드는 다양한 메모리 유형을 구현할 수 있습니다. 일화 메모리는 과거 상호작용을 저장하여 에이전트가 이전 작업에서 학습할 수 있게 합니다. 의미 메모리는 종종 벡터 데이터베이스에 사실과 지식을 보유합니다. 절차 메모리는 프롬프트의 퓨샷 예제를 통해 특정 작업을 수행하는 방법을 인코딩합니다.
상태 관리도 중요합니다. 다단계 작업을 수행하는 에이전트는 진행 상황, 중간 결과, 보류 중인 작업을 추적해야 합니다. 스캐폴드는 유효한 전환을 정의하는 상태 머신을 유지할 수 있습니다. 예를 들어, 연구 에이전트는 "검색 중", "읽는 중", "요약 중", "보고 중"과 같은 상태를 가질 수 있습니다. 스캐폴드는 에이전트가 단계를 건너뛰거나 불필요하게 작업을 반복하지 않도록 보장합니다. 이는 신뢰성이 가장 중요한 프로덕션 시스템에서 특히 중요합니다.
계획 및 추론
스캐폴딩은 종종 명시적인 계획 메커니즘을 포함합니다. 모델이 순전히 반응적인 방식으로 행동을 결정하도록 두는 대신, 스캐폴드는 모델이 먼저 계획을 세우도록 프롬프트할 수 있습니다. 이는 때때로 "계획 및 실행"이라고 불립니다. 모델은 단계 목록을 생성하고, 스캐폴드는 이를 순차적으로 실행하며 각 단계를 확인합니다. 이는 모델이 막히거나 일관되지 않은 결정을 내릴 위험을 줄입니다.
체인 오브 사고 프롬프팅과 같은 추론 기법도 스캐폴딩의 일부입니다. 모델에게 "단계별로 생각하라"고 요청함으로써, 스캐폴드는 더 정확한 추론을 장려합니다. 일부 스캐폴드는 모델이 자신의 출력을 검토하고 오류를 수정하는 "반성" 패턴을 사용합니다. 이러한 기법은 새로운 것이 아닙니다. 이는 이전 AI 연구의 커리큘럼 학습 및 손실 함수 개념의 확장이지만, 추론 수준에서 적용됩니다.
신뢰성 및 안전성
스캐폴딩의 주요 목표 중 하나는 에이전트를 신뢰할 수 있게 만드는 것입니다. 원시 모델은 환각을 일으키거나, 지시를 무시하거나, 안전하지 않은 출력을 생성할 수 있습니다. 스캐폴드는 입력 검증, 출력 필터링, 속도 제한, 인간 개입 체크포인트와 같은 안전장치를 추가합니다. 의료나 금융과 같은 고위험 응용 프로그램에서는 스캐폴드가 특정 작업을 실행하기 전에 승인을 요구할 수 있습니다.
안전성도 우려 사항입니다. 스캐폴드는 모델이 사용할 수 있는 도구를 제한하여 민감한 데이터에 접근하거나 파괴적인 작업을 수행하는 것을 방지할 수 있습니다. 또한 프롬프트 주입이나 기타 공격의 징후에 대해 모델의 행동을 모니터링할 수 있습니다. 에이전트가 더 자율적으로 변함에 따라, 스캐폴드는 의도하지 않은 결과에 대한 일차 방어선이 됩니다.
프레임워크 및 구현
개발자가 스캐폴드를 구축하는 데 도움이 되는 여러 오픈소스 및 상용 프레임워크가 등장했습니다. 2022년 10월 Harrison Chase가 출시한 LangChain은 체인과 에이전트의 개념을 대중화했습니다. 2023년 3월에 출시된 AutoGPT는 목표를 하위 작업으로 분해할 수 있는 완전 자율 에이전트를 시연했습니다. 2023년에 출시된 Microsoft의 AutoGen은 여러 모델이 협력하는 다중 에이전트 대화를 도입했습니다.
2024년, OpenAI와 Anthropic은 모두 에이전트 구축 도구를 출시했습니다. OpenAI의 Assistants API는 도구, 메모리, 검색을 갖춘 호스팅 스캐폴드를 제공했습니다. 2025년에 출시된 Anthropic의 Claude Code는 코딩 에이전트를 위한 명령줄 인터페이스를 제공했습니다. 이러한 제품은 복잡성의 많은 부분을 추상화하지만, 기본 원칙은 동일하게 유지됩니다. 프레임워크 선택은 종종 특정 사용 사례, 지연 시간 요구 사항, 사용자 지정 필요성에 따라 달라집니다.
과제 및 한계
진보에도 불구하고, 스캐폴딩은 여러 과제에 직면합니다. 컨텍스트 창 한계는 여전히 병목 현상입니다. 큰 컨텍스트에서도 복잡한 작업은 모델의 용량을 초과할 수 있습니다. 지연 시간도 또 다른 문제입니다. 각 도구 호출은 왕복 시간을 추가하여 에이전트를 직접 응답보다 느리게 만듭니다. 비용은 처리되는 토큰 수에 따라 확장되므로, 장황한 스캐폴드는 비쌀 수 있습니다. 오류 전파는 우려 사항입니다. 초기 단계의 단일 실수가 연쇄적으로 이어져 잘못된 최종 결과를 초래할 수 있습니다.
또 다른 과제는 평가입니다. 에이전트의 신뢰성을 어떻게 측정합니까? 벤치마크의 정확성과 같은 전통적인 지표는 충분하지 않습니다. 연구자들은 AgentBench 및 SWE-bench와 같은 새로운 벤치마크를 제안했지만, 아직 표준화되지 않았습니다. 이 분야는 여전히 젊고, 모범 사례는 진화하고 있습니다.
미래 방향
에이전트 스캐폴딩의 미래는 더 정교한 메모리 시스템, 더 나은 계획 알고리즘, 모델 자체와의 더 긴밀한 통합을 포함할 가능성이 높습니다. 일부 연구자들은 제어 흐름이 수동 코딩보다는 강화 학습을 통해 최적화되는 학습된 스캐폴드를 탐구하고 있습니다. 다른 이들은 서로 다른 전문화를 가진 여러 모델이 중앙 스캐폴드 아래에서 협력하는 다중 에이전트 시스템을 조사하고 있습니다.
모델이 더 강력해짐에 따라 스캐폴드는 더 단순해질 수 있지만, 사라지지는 않을 것입니다. 완벽한 모델조차도 세계와 상호작용하는 방법이 필요합니다. 스캐폴드는 모델의 내부 표현과 외부 현실 사이의 다리입니다. 이러한 의미에서, 이는 모든 AI 에이전트의 근본적인 부분이며, 에이전트가 더 많은 영역에 배포됨에 따라 그 중요성은 더욱 커질 것입니다.
결론
에이전트 스캐폴딩은 신뢰할 수 있는 AI 에이전트를 구축하는 엔지니어링 학문입니다. 이는 프롬프트 설계, 도구 통합, 메모리 관리, 제어 흐름을 포함합니다. 기본 모델은 강력하지만, 기본적으로 자율적이지는 않습니다. 스캐폴딩은 언어 모델을 유용한 에이전트로 전환하는 구조를 제공합니다. 이 분야가 성숙해짐에 따라, 더 표준화된 프레임워크, 더 나은 평가 방법, 그리고 효과적이고 안전한 스캐폴드를 설계하는 방법에 대한 더 깊은 이해를 기대할 수 있습니다.