Dolly는 Databricks가 개발한 대규모 언어 모델로, 2023년 3월에 처음 출시된 명령어 튜닝 모델이다. 이 모델은 비교적 작은 규모의 모델이 적당한 크기의 데이터셋으로 미세 조정되었을 때 우수한 명령어 수행 능력을 달성할 수 있음을 입증하며, 이러한 능력에 막대한 규모와 광범위한 독점 데이터가 필요하다는 기존의 가정에 도전했다. 이 프로젝트는 단일 머신에서 짧은 시간 내에 미세 조정이 가능함을 보여줌으로써 기업이 LLM 맞춤화에 접근할 수 있게 하는 것을 목표로 했다.
초기 버전인 Dolly 1.0은 EleutherAI의 GPT-J 6B 모델을 기반으로 했으며, Databricks 직원들이 생성한 약 15,000개의 명령어-응답 쌍 데이터셋으로 미세 조정되었다. 이후 2023년 4월에는 Dolly 2.0이 출시되었는데, 동일한 기본 모델을 사용하면서도 허용적인 라이선스로 공개된 더 큰 오픈소스 데이터셋(15,000쌍)을 도입했다. Dolly 2.0은 완전히 공개된 학습 데이터셋을 가진 최초의 오픈소스 명령어 튜닝 모델 중 하나로 주목받았으며, 연구자들이 이 작업을 복제하고 확장할 수 있게 했다.
기술적 접근 방식
Dolly의 학습은 사전 학습된 언어 모델을 명령어와 해당 응답의 예시로 미세 조정하는 명령어 튜닝이라는 기법을 사용했다. 이 과정은 모델의 동작을 사용자 의도에 맞춰 정렬하여 요약, 질문 응답, 텍스트 생성과 같은 다양한 작업에서 프롬프트를 따를 수 있게 한다. 미세 조정은 표준 지도 학습 목적 함수를 사용하여 명령어가 주어졌을 때 응답 토큰을 예측하도록 모델을 최적화했다. Databricks는 자체 머신 러닝 플랫폼을 활용해 학습 파이프라인을 관리했지만, 모델 자체는 단일 Nvidia A10 GPU에서 추론을 포함한 일반 하드웨어에서 실행되도록 설계되었다.
기본 모델인 GPT-J는 60억 개의 매개변수를 가진 트랜스포머 기반 아키텍처로, Pile 데이터셋으로 학습되었다. Dolly의 미세 조정은 기본 아키텍처를 변경하지 않았지만 명령어 수행에 특화되도록 가중치를 조정했다. 이러한 접근 방식은 종종 막대한 계산 자원과 독점 학습 데이터를 요구하는 OpenAI나 Anthropic의 대규모 모델과 대조를 이루었다.
출시와 영향
Dolly는 Apache 2.0 라이선스로 출시되어 상업적 및 연구 목적으로 자유롭게 사용할 수 있었다. 함께 제공된 데이터셋인 'databricks-dolly-15k'도 당시 드물게 오픈소스로 공개되었다. 이러한 개방성 덕분에 머신 러닝 커뮤니티는 명령어 튜닝의 효과를 연구하고 파생 모델을 만들 수 있었다. Dolly의 출시는 방대한 자원이 없는 조직도 유능한 어시스턴트를 구축할 수 있음을 보여주며 AI 민주화에 대한 논의를 촉발했다.
그러나 Dolly의 성능은 GPT-3.5나 Claude와 같은 최첨단 모델에는 미치지 못했으며, 복잡한 추론과 사실적 정확성에서 한계를 드러냈다. 그럼에도 불구하고 효율적인 미세 조정의 개념 증명 역할을 하여 이후 Alpaca와 Vicuna와 같은 오픈소스 노력에 영향을 미쳤다. Databricks는 Dolly를 기업이 자체 데이터로 맞춤형 AI 어시스턴트를 만들 수 있는 도구로 자리매김했으며, 자사의 레이크하우스 아키텍처와 통합했다.
평가와 유산
Dolly는 출시 당시 상당한 언론의 주목을 받았으며, 기술 언론은 낮은 학습 비용(컴퓨팅 비용이 30달러 미만으로 보고됨)과 LLM 개발은 기술 대기업만 할 수 있다는 서사를 도전한 점을 강조했다. 이 모델은 투명성으로 칭찬받았지만, 일부 비평가들은 상용 제품에 비해 기능이 제한적이라고 지적했다. 시간이 지나면서 Dolly는 더 강력한 오픈 모델에 의해 대체되었지만, 그 데이터셋과 방법론은 연구에서 계속 사용되었다.
Databricks는 이후 Dolly를 플랫폼에 통합하여 고객이 특정 사용 사례에 맞게 모델을 미세 조정하고 배포할 수 있게 했다. 이 프로젝트는 또한 오픈소스 LLM 개발의 광범위한 추세에 기여하여 소규모 모델에서의 명령어 튜닝 실험을 더욱 장려했다. 2025년 현재 Dolly는 더 이상 적극적으로 개발되지 않지만 접근 가능한 AI 진화의 역사적 이정표로 간주된다.
같이 보기
참고 문헌
(참고: 이 문서는 공개적으로 이용 가능한 정보를 기반으로 작성되었으며 외부 출처를 인용하지 않습니다.)