대화형 AI는 기계가 인간의 언어를 충분히 잘 이해하고 처리하며 생성하여 텍스트나 음성을 통해 사람과 자연스러운 다중 턴 대화를 유지할 수 있게 하는 기술을 의미한다. 이는 챗봇, 음성 비서, 대화형 음성 응답 시스템, 그리고 범용 대규모 언어 모델의 대화 기능을 포괄하는 광범위한 분야이다. 대화형 AI는 자연어 처리, 음성 인식, 그리고 음성 기반 시스템의 경우 텍스트 음성 변환 합성의 교차점에 위치한다.
구성 요소
대화형 AI 시스템은 일반적으로 여러 하위 시스템을 결합한다: 입력 이해(음성을 텍스트로 변환하거나 입력된 텍스트를 구문 분석), 대화 관리(턴에 걸쳐 대화 상태, 의도, 맥락을 추적), 응답 생성(과거에는 템플릿이나 검색을 통해, 점차 생성형 언어 모델을 통해 응답을 생성), 그리고 음성 인터페이스의 경우 응답을 다시 오디오로 변환하는 음성 합성이다. 다중 턴 교환에서 맥락을 유지하는 시스템은 모델의 맥락 창에 의존하여 이전 턴을 기억하며, 많은 프로덕션 시스템은 시스템 프롬프트를 사용하여 페르소나, 어조, 행동 제약을 고정한다.
진화
초기 대화형 시스템은 좁고 규칙 기반이었으며, 사용자 의도를 제한된 스크립트 응답 메뉴에 매칭했는데, 이는 대화형 전화 트리와 ELIZA 같은 초기 챗봇에서 잘 드러난다. 2010년대에는 Siri와 Alexa 같은 의도 분류 기반 가상 비서가 등장하여 타이머 설정이나 날씨 확인 같은 고정된 작업 집합을 처리했으며, 일반적으로 진정한 개방형 도메인 이해는 없었다. 딥러닝과 이후 트랜스포머 기반 언어 모델로의 전환은 개방형 도메인 대화 능력을 가능하게 했다: 모델은 명시적으로 프로그래밍되지 않아도 거의 모든 주제에 대해 일관된 대화를 유지할 수 있었으며, 이 변화는 ChatGPT에 의해 가장 가시적으로 입증되었고 인간 피드백 기반 강화 학습을 통해 사용자가 실제로 원하는 것에 맞춰 응답을 정렬하도록 정제되었다. 이후 시스템은 검색 증강 생성을 추가하여 현재 또는 독점 정보에 근거한 답변을 제공하고, 도구 사용을 통해 대화 중 웹 검색이나 데이터베이스 쿼리 같은 작업을 수행할 수 있게 했다.
응용 및 비판
대화형 AI는 고객 지원, 의료 분류, 교육, 접근성 도구, 개인 비서에 널리 배포되며, 대화를 자율적 작업 완료로 확장하는 AI 에이전트의 기반이 된다. 비판은 일반적인 챗봇에 대한 것과 유사하다: 자신감 있는 대화 톤으로 전달되는 잘못된 정보의 환각; 사용자가 시스템을 과도하게 신뢰하거나 감정적으로 의존할 위험(시스템은 사용자를 이해하지 못함); 그리고 음성 인터페이스의 경우 항상 청취하는 마이크에 대한 개인정보 보호 우려. 연구자들은 대화 유창성이 진정한 이해를 반영하는지 아니면 유창한 패턴 완성에 불과한지에 대해 계속 논쟁하고 있으며, 이 질문은 확률적 앵무새 주장과 같은 비판과 밀접하게 연결된다.