Llama 2는 2023년 7월 18일 메타 AI가 마이크로소프트와 협력하여 공개한 대규모 언어 모델(LLM) 계열이다. 첫 번째 Llama 버전이 비상업적 라이선스 하에 학술 연구자에게만 제한되었던 것과 달리, Llama 2는 모델 가중치와 여러 상업적 사용 사례를 허용하는 라이선스를 갖추고 대중에게 공개되었다. 이번 공개에는 기본 모델과 명령어 튜닝된 채팅 버전이 모두 포함되었으며, 크기는 70억, 130억, 700억 개의 매개변수로 제공되었다.
Llama 2의 출시는 생성형 AI 분야에서 중요한 사건이었다. 이는 GPT-3와 ChatGPT 같은 독점 모델에 대항할 수 있는 경쟁력 있는 오픈 가중치 대안을 제공했기 때문이다. 또한 메타의 라이선스에 오픈소스 정의에서 벗어난다는 주장이 제기된 사용 제한이 포함되면서, AI에서 "오픈소스"의 의미에 대한 논쟁을 촉발했다. 이번 공개는 이후 오픈 가중치 모델링의 발전에 영향을 미쳤으며, 여기에는 메타 자체의 Llama 3와 Mistral AI 및 AI21 Labs 같은 회사의 다른 모델들이 포함된다.
배경
Llama 2의 개발은 대규모 언어 모델의 급속한 발전을 배경으로 이루어졌다. 2020년 GPT-3 출시 이후, 연구자들은 모델을 더 큰 크기로 확장하면 추론 및 코드 생성과 같은 능력에서 극적인 개선이 종종 발생한다는 것을 발견했다. 2022년 11월 ChatGPT의 출시는 LLM을 광범위한 대중에게 알렸고, 이러한 모델을 개발하고 개선하기 위한 업계 전반의 경쟁을 촉발했다.
메타의 초기 대응은 신중했다. 한 인터뷰에서 최고 AI 과학자 얀 르쿤은 LLM이 범용 추론 엔진으로 사용되기보다는 글쓰기 지원에 가장 적합하다고 언급했다. 그러나 ChatGPT의 성공과 2023년 3월 첫 Llama 모델의 유출은 메타로 하여금 전략을 재평가하게 했다. Llama 2를 공개함으로써 메타는 경쟁에 참여하면서도 외부 개발자와 연구자의 생태계를 조성하는 것을 목표로 삼았다.
출시 발표
메타는 2023년 7월 18일 블로그 게시물과 "Llama 2: Open Foundation and Fine-Tuned Chat Models"라는 제목의 논문을 통해 Llama 2를 발표했다. 이번 공개에는 애저 클라우드 플랫폼과 마이크로소프트의 Windows 운영 체제에서 Llama 2를 제공하는 마이크로소프트와의 파트너십이 동반되었다. 메타는 또한 책임 사용 가이드와 다른 대규모 언어 모델을 개선하는 데 모델을 사용하지 않는 등의 조건을 포함하여 상업적 사용을 허용하는 커뮤니티 라이선스를 제공했다.
발표에서는 Llama 2가 이전 버전인 Llama 1보다 40% 더 많은 데이터로 훈련되었으며, 채팅 버전은 ChatGPT에 사용된 기술과 유사한 인간 피드백 기반 강화 학습(RLHF)을 통해 미세 조정되었다는 점이 강조되었다. 메타는 700억 매개변수 채팅 모델이 일부 벤치마크에서 ChatGPT를 능가한다고 보고했지만, 이러한 주장은 이후 논쟁의 대상이 되었다.
모델 구조 및 훈련
Llama 2는 Llama 1과 동일한 트랜스포머 기반 구조를 유지하지만 훈련 방식에서 조정이 이루어졌다. 모델은 동일한 토크나이저와 매개변수 수를 사용하지만, Llama 1의 1.4조 토큰에 비해 공개 웹 데이터 2조 토큰으로 훈련되었다. 훈련 데이터에는 영어 텍스트, 코드 및 기타 소스의 혼합이 포함되었다.
세 가지 크기(70억, 130억, 700억)는 다양한 하드웨어와 사용 사례를 수용하기 위해 선택되었다. 70억 및 130억 모델은 소비자용 GPU에서 실행할 수 있으며, 700억 모델은 더 상당한 계산 리소스를 필요로 한다. 메타는 또한 로컬 추론을 용이하게 하기 위해 디버그 및 양자화 버전을 공개했다.
채팅 미세 조정을 위해 메타는 다단계 프로세스를 사용했다: 인간 시연에 대한 지도 미세 조정, 근위 정책 최적화를 사용한 RLHF, 그 다음 거부 샘플링 순서였다. 회사는 또한 유해한 프롬프트를 거부하도록 채팅 모델에 안전 조치를 구현했지만, 이러한 조치는 항상 효과적이지는 않았다.
오픈 라이선스 및 논란
Llama 2의 라이선스는 학술 연구자에게만 제한되었던 Llama 1에서 한 단계 전진한 것으로 환영받았다. 그러나 이 라이선스는 공식적인 오픈소스 정의를 유지하는 오픈소스 이니셔티브(OSI)의 승인을 받지 못했다. OSI는 Llama 2를 다른 LLM을 개선하는 데 사용하는 것을 제한하고 대기업 사용자에 대한 제한이 오픈소스 원칙(사용 분야 제한 없음, 개인 또는 그룹에 대한 차별 금지)을 위반한다고 주장했다.
메타는 Llama 2를 설명하는 데 "오픈소스"라는 용어를 계속 사용했으며, 이는 단어가 희석되고 있다고 느끼는 일부 개발자와 연구자로부터 비판을 받았다. 이 논쟁은 이후 공개에서도 강화되었으며, 메타의 Llama 3 및 다른 모델이 유사한 라이선스를 사용했기 때문이다.
논란에도 불구하고 Llama 2의 가중치 공개는 다양한 응용을 가능하게 했다. 연구자는 특정 도메인에 맞게 모델을 미세 조정할 수 있었고, 스타트업은 허용 사용 정책을 준수하는 한 라이선스 비용을 지불하지 않고 상용 제품을 구축할 수 있었다.
반응 및 영향
Llama 2에 대한 초기 반응은 엇갈렸다. 많은 사람들이 제한이 적은 강력한 모델을 공개한 메타를 칭찬하며, 이를 이미지 생성에서 Stable Diffusion의 영향에 비유했다. 개발자들은 코딩, 채팅 및 기타 목적을 위한 미세 조정을 빠르게 만들었다. 이 모델은 Hugging Face (제공된 슬러그는 아님) 및 AWS 및 Google Cloud 같은 플랫폼에 통합되었다.
그러나 일부 비평가들은 Llama 2의 성능, 특히 700억 모델의 경우 GPT-4 또는 PaLM 2 같은 독점 모델과 항상 일치하지는 않는다고 지적했다. 독립 벤치마크는 Llama 2 70B가 많은 작업에서 GPT-3.5와 경쟁력이 있지만 추론 및 사실성에서 최첨단에는 뒤처진다는 것을 보여주었다.
이번 공개는 또한 더 넓은 AI 커뮤니티에 영향을 미쳤다. 이는 Mistral AI 같은 다른 회사들이 오픈 가중치 모델을 공개하도록 촉구했으며, LLM 배포의 분산 생태계 성장에 기여했다. 또한 Llama 2가 마이크로소프트 애저에서 제공되면서 기업이 오픈 가중치 AI를 채택하기 쉬워졌다.
Llama 1 및 후속 모델과의 비교
Llama 2는 여러 주요 측면에서 Llama 1과 달랐다: 상업적 사용에 개방되었고, 채팅 미세 조정을 포함했으며, 더 많은 데이터로 훈련되었다. 그러나 구조는 대체로 변경되지 않았으며, 일부 전문가들은 개선이 혁명적이라기보다 점진적이라고 지적했다.
후속 공개는 Llama 2를 기반으로 구축되었다. 2023년 8월, 메타는 코드 생성에 특화된 Llama 2의 미세 조정인 Code Llama를 70억, 130억, 340억, 700억 크기로 공개했다. 2024년 4월, 메타는 더 큰 훈련 데이터 세트를 사용하고 개선된 성능을 보여준 Llama 3를 80억 및 700억 크기로 출시했다. Llama 3는 2025년 4월 메타의 AI 어시스턴트의 일부가 된 Llama 4로 이어졌다. 2026년까지 메타 슈퍼인텔리전스 랩은 후속 모델로 Muse Spark를 공개했다.
유산
Llama 2의 유산은 AI에서 오픈 가중치 운동의 촉매제로서의 역할에 있다. 이는 안전 통제를 유지하면서도 강력한 모델을 널리 공유할 수 있음을 입증했으며, 폐쇄적이고 API 전용 모델에 대한 실용적인 대안을 제공했다. 또한 이 모델은 AI에서 오픈소스의 정의에 대한 논의에 영향을 미쳤으며, 이 논쟁은 분야가 진화함에 따라 계속되고 있다.
많은 개발자와 연구자에게 Llama 2는 실험과 혁신의 기준점이 되었다. 이번 공개는 대규모 언어 모델 작업에 대한 진입 장벽을 낮추어, 그렇지 않았다면 존재하지 않았을 미세 조정과 응용의 물결을 가능하게 했다. 더 새로운 모델이 등장했음에도 Llama 2는 AI 개발에서 개방성, 능력, 안전 사이의 균형을 이해하기 위한 참조점으로 남아 있다.