프롬프트 엔지니어링은 생성형 AI 모델에 주어지는 자연어 입력을 설계하고 정제하여 원하는 출력을 안정적으로 산출하는 기법이다. 이는 대규모 언어 모델의 광범위한 채택 이후 독자적인 기술로, 잠시 동안 직업 명칭으로도 부상했는데, 동일한 기본 모델이라도 작업이 어떻게 표현되고 구조화되며 틀지어지는지에 따라 현저히 다른 결과를 산출할 수 있기 때문이다.
기법
일반적인 프롬프트 엔지니어링 기법으로는 프롬프트에 작업 예시를 직접 제공하는 퓨샷 러닝이 있으며, 이는 단순히 지시만 주는 제로샷 러닝과 대비된다. 2022년 논문에서 소개된 사고 사슬 프롬프팅은 모델이 최종 답변 전에 중간 추론 단계를 산출하도록 요구하며, 충분히 큰 모델의 산술 및 논리 작업 성능을 크게 향상시키는 것으로 입증되었다. 다른 기법으로는 모델에 페르소나나 역할을 부여하거나, 명시적 출력 형식을 지정하거나, 복잡한 작업을 일련의 더 작은 프롬프트로 분해하는 것이 있다. 이러한 기법 중 다수는 맥락 내 학습에 의존하는데, 이는 언어 모델이 기본 가중치를 변경하지 않고 프롬프트에 존재하는 정보를 바탕으로 행동을 조정하는 능력이다.
학문으로서의 부상
프롬프트 엔지니어링에 대한 관심은 2020년 GPT-3 출시 이후 빠르게 성장했는데, 강력한 퓨샷 성능 덕분에 모델을 재훈련하지 않고도 애플리케이션을 구축하는 실용적 수단으로서 프롬프트 설계가 자리 잡았으며, 2022년 ChatGPT 출시로 대화형 프롬프팅이 대중에게 확산되면서 더욱 가속화되었다. 사용 사례에 따라 다양한 기법이 개발되었는데, 에이전트의 페르소나와 제약 조건을 구성하는 구조화된 시스템 프롬프트부터 복잡한 작업을 안내하기 위해 추론 모델과 AI 에이전트 시스템을 조종하는 정교한 다단계 프롬프트까지 다양하다.
지속 가능성 논쟁
평론가들은 프롬프트 엔지니어링이 지속 가능한 학문인지, 아니면 모델이 일상 언어에서 사용자 의도를 더 잘 추론하게 됨에 따라 축소될 과도기적 기술인지에 대해 논쟁해 왔다. 지지자들은 모델에 더 많은 도구, 더 긴 맥락, 더 큰 자율성이 부여됨에 따라 지시, 제약 조건, 성공 기준을 정밀하게 지정하는 것이 더욱 중요해진다고 주장한다. 회의론자들은 초기 덜 강력한 모델에서 프롬프트 엔지니어링으로 간주되었던 많은 부분, 예를 들어 정교한 역할극 틀 또는 반복적 강조가 새 모델이 일반 지시를 더 안정적으로 따르면서 불필요해졌다고 반박한다. 2025년까지 일부 실무자들은 단일 프롬프트뿐만 아니라 모델이 활용하는 전체 정보, 예시, 도구 접근 세트를 관리하는 학문을 설명하기 위해 더 넓은 용어인 맥락 엔지니어링을 사용하기 시작했으며, 이는 단일 교환이 아닌 여러 차례에 걸쳐 작동하는 에이전트 시스템으로의 전환을 반영한다.
보안 측면
프롬프트가 모델의 행동을 지시하는 주요 경로이기 때문에, 프롬프트 엔지니어링은 적대적 기법인 탈옥의 방어적 대응책을 갖는다. 여기서 프롬프트는 합법적 작업을 수행하기보다 모델의 안전 훈련을 우회하도록 의도적으로 설계된다.