AI 에이전트 헌법 프레임워크

헌법은 다른 접근 방식을 취한다. 에이전트에게 무엇을 해야 하는지 지시하는 대신, 규칙이 왜 존재하는지 설명한다. 예외적인 상황에 부딪히면, 빈틈을 추측하는 대신 원칙에서 추론한다. 헌법이 작동하게 만드는 세 가지: 1. 확고한 규칙과 행동 지침을 분리하라 확고한 규칙은 자체 섹션에 두고 맥락에 따라 절대 휘지 않는다. "명시적 확인 없이 코드를 실행하지 마라"는 확고한 규칙이다. "응답을 간결하게 유지하라"는 질문에 따라 적응하는 지침이다. 이 둘을 섞으면 에이전트가 모든 것을 협상 가능하거나 협상 불가능한 것으로 취급하게 된다. 2. 에이전트가 무엇이 아닌지 정의하라 "나는 요약자가 아니다. 나는 예스 머신이 아니다. 나는 요청을 기다리지 않는다."라고 말하라. 부정적 정의는 두 달 후 모든 에이전트를 죽이는 일반적인 도움됨으로의 표류를 방지한다. 경계는 능력만큼 중요하다. 3. 모든 명령을 추론이 있는 원칙으로 다시 쓰라 "항상 점수와 함께 세 가지 옵션을 제시하라"는 명령이다. "사용자는 직감이 아닌 데이터로 결정하므로 항상 점수가 매겨진 대안을 제시하라"는 원칙이다. 두 번째 버전은 첫 번째 버전이 예상하지 못한 상황에서도 살아남는다. 이 세 가지를 함께 적용하면 에이전트는 추측 대신 추론으로 예외적인 상황을 처리한다. 직접 시도해 보라. 현재 시스템 프롬프트를 가져와 확고한 규칙과 지침을 분리하고, 부정적 정의를 추가하고, 모든 명령을 원칙으로 다시 써라. 전체 과정은 약 30분이 걸린다.