프롬프트는 대규모 언어 모델이나 이미지 생성기와 같은 생성형 AI 모델에 주어지는 자연어 입력으로, 원하는 출력을 이끌어 내기 위해 사용된다. 프롬프트는 단일한 짧은 지시문에서부터 예시, 제약 조건, 형식 요구 사항을 포함하는 정교한 다중 부분 사양에 이르기까지 다양하다.
프롬프트의 유형
프롬프트는 상호작용 방식에 따라 몇 가지 뚜렷한 형태를 취한다. 시스템 프롬프트는 대화 전체에 걸쳐 지속적인 지시와 페르소나를 설정하며, 일반적으로 최종 사용자에게는 숨겨져 있다. 반면 일반적인 대화 입력은 흔히 사용자 프롬프트라고 불린다. 이미지 및 비디오 생성에서 네거티브 프롬프트는 주요 설명 프롬프트와 별도로 출력에서 제외되어야 할 사항을 지정한다. 원하는 입력-출력 동작의 실제 예시를 포함하는 프롬프트는 퓨샷 러닝 프롬프트로 설명되며, 지시문만 제공하는 제로샷 프롬프트와 대조된다.
프롬프트 엔지니어링
더 나은 출력을 안정적으로 생성하기 위해 프롬프트를 의도적으로 설계하는 관행은 프롬프트 엔지니어링으로 알려져 있다. 모델에게 답변 전에 단계별로 추론하도록 요청하는 사고 사슬 프롬프팅과 같은 기법은, 기본 모델이 변경되지 않더라도 프롬프트의 표현 방식과 구조가 모델 출력 품질을 상당히 바꿀 수 있다는 경험적 관찰에서 등장했다. 이러한 민감성은 맥락 내 학습, 즉 언어 모델이 기본 가중치를 업데이트하지 않고도 프롬프트 자체에 포함된 정보를 바탕으로 동작을 적응시키는 능력과 밀접하게 관련되어 있다.
위험
프롬프트는 사용자와 점점 더 외부 데이터가 모델의 동작을 제어하는 주요 인터페이스이기 때문에, 이는 또한 중요한 공격 표면이 된다. 탈옥은 모델의 안전 훈련을 우회하도록 설계된 프롬프트이며, 프롬프트 주입은 모델이 처리하는 웹 페이지나 문서와 같은 콘텐츠에 숨겨진 악의적인 지시를 의미하며, 이는 사용자가 인지하지 못한 채 AI 시스템의 동작을 가로챌 수 있다. 프롬프트 주입은 AI 에이전트 시스템이 실제 세계에서 행동을 취할 수 있는 능력을 부여받으면서 특히 심각한 우려 사항이 되었다. 성공적인 주입은 에이전트가 단순히 잘못된 텍스트를 생성하는 대신 도구를 오용하게 만들 수 있기 때문이다.
중요성
프롬프트가 생성형 AI 시스템 사용 방식의 중심에 있다는 점은 효과적인 프롬프트를 공유하고, 개선하고, 거래하는 비공식 커뮤니티와 마켓플레이스의 등장으로 이어졌으며, 특정 표현이 성공하거나 실패하는 이유를 이해하려는 학문적 관심도 함께 생겨났다. 일부 연구자들은 모델이 더 유능해지고 의도를 더 잘 추론하게 됨에 따라, 수동 프롬프트 설계의 가치는 모델이 접근할 수 있는 정보, 도구, 이력의 전체 집합을 관리하는 데 초점을 맞추는 맥락 엔지니어링으로 때때로 설명되는 더 넓은 관행에 비해 줄어들 것이라고 주장한다.