대규모 언어 모델(LLM)은 일반적으로 Transformer (architecture) 아키텍처를 기반으로 구축된 Neural network로, 매우 방대한 양의 텍스트를 학습하여 시퀀스에서 다음 텍스트 단위 또는 토큰을 예측하도록 훈련된다. 이러한 좁은 훈련 목표에도 불구하고, 충분한 규모로 훈련된 LLM은 언어 이해, 생성, 번역, 요약 및 추론에서 광범위한 능력을 보여주며, ChatGPT, Claude (AI model family), Gemini와 같은 어시스턴트의 기술적 기반을 형성한다.
역사
트랜스포머 기반 언어 모델은 2017년 아키텍처 도입 직후 등장했다. BERT(2018)는 언어 이해 작업을 위한 대규모 사전 훈련의 가치를 입증했으며, OpenAI의 GPT 시리즈는 생성적이고 자기회귀적인 훈련을 점점 더 큰 규모로 추구하여, 1,750억 개의 매개변수와 강력한 퓨삿 러닝 성능으로 널리 주목을 받은 GPT-3(2020)로 이어졌다. GPT-4(2023)는 멀티모달 입력과 훨씬 더 큰 능력으로 패러다임을 확장했으며, 2022년 11월 GPT-3.5 모델을 기반으로 구축된 ChatGPT의 출시는 대화형 LLM을 주류로 끌어올렸고, Google의 Gemini 제품군과 Meta의 오픈 가중치 Llama 시리즈를 포함한 경쟁자들의 빠른 진입을 촉발했다.
작동 방식
LLM은 Pretraining 단계에서 방대하고 대부분 선별되지 않은 텍스트 코퍼스를 자기 지도 목표로 훈련되어, 이전 맥락이 주어졌을 때 다음 토큰을 예측하는 방법을 학습한다. 이는 한 번에 하나의 토큰으로 유창한 텍스트를 생성할 수 있는 자기회귀 모델을 생성한다. 사전 훈련된 "기본" 모델은 일반적으로 Fine-tuning 및 인간 피드백 기반 강화 학습을 통해 지침을 따르고 안전하게 대화하도록 추가 적응되며, 이 과정은 ChatGPT 및 Claude와 같은 모델의 핵심이다. 모델이 한 번의 상호작용에서 처리할 수 있는 텍스트 양은 Context window에 의해 제한되며, 초기 모델의 약 수천 개 토큰에서 2025년대 일부 시스템의 백만 개 이상으로 성장했다.
규모와 능력
Scaling laws로 알려진 경험적 관계는 모델의 손실이 매개변수 수, 훈련 데이터 및 계산이 함께 증가함에 따라 예측 가능하게 개선되는 방식을 설명한다. 다단계 산술이나 복잡한 지침 따르기와 같은 일부 능력은 특정 규모 임계값을 넘어서면 비교적 갑작스럽게 나타나는 것으로 보이며, 이를 Emergent abilities라고 하지만, 연구자들은 이것이 모델의 실제 속성인지 아니면 능력 측정 방식의 인공물인지에 대해 논쟁한다.
한계
LLM은 Hallucination (AI)에 취약하여, 유창하지만 사실적으로 부정확한 진술을 생성하며 사용자에게 출력이 신뢰할 수 없다는 신호를 제공하지 않는다. 학습된 통계적 패턴을 기반으로 텍스트를 생성하고 검증된 지식이 아니기 때문에, 훈련 데이터에 존재하는 편향을 재현할 수 있으며 탈옥과 같은 적대적 프롬프트 기법에 취약한 상태로 남아 있다. 완화 방법에는 검색된 외부 문서에 출력을 근거하는 기법인 검색 증강 생성과, 점점 더 답변 전에 자신의 작업을 확인하기 위해 추가 테스트 시간 계산을 사용하는 "추론 모델"이 포함된다.