LaMDA 2는 대화 애플리케이션을 위해 Google이 개발한 대규모 언어 모델이다. 2022년 5월에 발표되었으며, 2021년 Google I/O에서 소개된 원래 LaMDA 모델의 후속작이다. LaMDA 2는 전임자보다 더 자연스럽고 유용한 개방형 다중 턴 대화에 참여하도록 설계되었으며, 안전성, 사실적 근거, 사용자 의도에 따른 응답 조정 능력 개선에 중점을 둔다.
이 모델은 현대 인공지능과 머신러닝에서 기초가 된 신경망 설계인 트랜스포머 아키텍처를 기반으로 구축되었다. 멀티 헤드 어텐션 메커니즘을 갖춘 시퀀스-투-시퀀스 프레임워크를 사용하여 맥락 인식을 갖춘 대화형 텍스트를 처리하고 생성할 수 있다. LaMDA 2는 공개 대화 데이터와 웹 텍스트의 대규모 말뭉치로 훈련되었으며, 딥러닝 기술을 사용하여 대화 패턴과 세계 지식을 학습했다.
아키텍처 및 훈련
LaMDA 2는 전임자의 핵심 아키텍처인 디코더 전용 트랜스포머 모델을 유지한다. 원래 LaMDA는 최대 1370억 개의 매개변수로 훈련되었으며, LaMDA 2도 비슷한 규모를 따르지만 정확한 매개변수 수는 공개되지 않았다. 훈련은 두 단계로 진행되었다. 첫째, 언어 표현을 학습하기 위해 다양한 대화 및 웹 문서 데이터 세트로 사전 훈련하고, 둘째, 인간 피드백 기반 강화 학습(RLHF)과 지도 학습의 조합을 사용한 미세 조정이다.
미세 조정 단계는 모델의 안전성과 품질을 개선하는 데 중요했다. Google은 인간 평가자를 고용하여 합리성, 구체성, 흥미로움과 같은 지표로 모델 응답을 평가했다. RLHF는 모델이 이러한 품질을 최적화하여 무의미하거나 유해한 출력을 생성할 가능성을 줄였다. 또한 LaMDA 2는 "근거 부여"라는 기술을 통합하여 대화 중 사실적 정확성을 개선하기 위해 검색 결과와 같은 외부 정보 소스를 참조할 수 있게 했다.
안전성 및 사실성
LaMDA 2의 핵심 초점은 특히 안전성과 사실성 측면에서 원래 모델의 한계를 해결하는 것이었다. 원래 LaMDA는 때때로 편향되거나 사실적으로 부정확한 진술을 생성한다는 비판을 받았다. LaMDA 2는 유해하거나 독성 언어를 피하는 "안전성"과 신뢰할 수 있는 출처로 뒷받침되는 진술을 보장하는 "사실성"을 포함한 새로운 안전 지표 세트를 도입했다.
이러한 목표를 달성하기 위해 Google은 훈련 중 분류기 기반 접근 방식을 구현하여 안전 기준에 따라 응답을 필터링하고 순위를 매겼다. 모델은 또한 정보가 부족할 때 이를 인식하고 추측하는 대신 명확한 질문을 하도록 훈련되었다. 이는 종종 확신에 차 있지만 부정확한 답변을 생성했던 초기 모델과의 차이점이었다. LaMDA 2의 근거 부여 능력은 특히 주목할 만했는데, 검색 엔진이 응답에 정보를 제공하는 방식과 유사하게 실시간으로 외부 정보를 검색하고 인용할 수 있었기 때문이다.
제어 가능성 및 사용자 의도
LaMDA 2의 또 다른 발전은 개선된 제어 가능성이었다. 모델은 사용자 지침을 더 효과적으로 이해하고 따르도록 설계되어 사용자가 응답의 어조, 스타일 또는 내용을 지정할 수 있었다. 예를 들어, 사용자가 공식적인 어조의 응답을 요청하거나 주제 요약을 요청하면 LaMDA 2는 그에 따라 출력을 조정했다.
이는 "의도 조건화"라는 기술을 통해 달성되었으며, 모델은 사용자 지침과 원하는 응답 특성을 짝지은 예시로 미세 조정되었다. 이로 인해 LaMDA 2는 기본 대화 스타일에서 벗어나는 데 어려움을 겪었던 전임자보다 더 다재다능해졌다. Google은 일련의 대화형 데모에서 이 기능을 시연하여 LaMDA 2가 다양한 캐릭터로 역할극을 하거나, 단계별 지침을 제공하거나, 창의적 글쓰기 작업에 참여할 수 있음을 보여주었다.
응용 및 영향
LaMDA 2는 주로 연구 발전으로 소개되었으며, Google은 그 기능을 Google Assistant 및 Google Cloud의 AI 서비스와 같은 제품에 통합했다. 그러나 이 모델은 OpenAI이나 Anthropic과 같은 일부 경쟁사의 모델처럼 공개 API로 출시되지는 않았다. 대신 Google은 LaMDA 2를 사용하여 내부 제품을 개선하고 PaLM 및 Gemini와 같은 이후 모델 개발에 정보를 제공하는 데 집중했다.
이 모델은 특히 Google 엔지니어가 원래 LaMDA가 자각을 달성했다고 주장한 이후 대화형 AI의 본질에 대한 공개 논의를 촉발했다. LaMDA 2는 그 논란에 직접적으로 관련되지는 않았지만, 대화 모델의 성장하는 능력과 이를 둘러싼 윤리적 고려 사항을 부각시켰다. 스탠포드 AI 연구소와 MIT CSAIL과 같은 기관의 연구자들은 LaMDA 2를 생성형 AI의 급속한 발전 사례로 인용하면서도, 이러한 모델이 책임 있게 사용되도록 보장하는 과제를 지적했다.
평가 및 유산
LaMDA 2는 안전성과 제어 가능성의 개선으로 AI 연구자들로부터 일반적으로 긍정적인 평가를 받았지만, 일부 비평가들은 여전히 가끔 발생하는 사실적 오류와 장황한 경향과 같은 한계가 있다고 지적했다. 모델의 근거 부여 메커니즘은 진전으로 여겨졌지만 항상 신뢰할 수는 없었으며, Google은 LaMDA 2를 다른 대규모 언어 모델과 비교한 상세한 벤치마크를 공개하지 않았다.
이러한 한계에도 불구하고 LaMDA 2는 대화 시스템의 후속 연구에 영향을 미쳤다. RLHF와 근거 부여에 대한 초점은 OpenAI와 Anthropic이 개발한 모델을 포함한 이후 모델에서 표준 관행이 되었다. 2024년 현재 LaMDA 2는 초기 대화형 모델과 더 고급 다중 모드 시스템 사이의 격차를 메우는 Google AI 로드맵의 과도기적 모델로 간주된다. 그 개발은 Google의 인공지능 분야 전반적인 노력에 기여하여 다른 주요 기업들과 함께 이 분야의 선두주자로 자리매김하게 했다.