Hugging Face Transformers는 Hugging Face, Inc.가 개발한 오픈 소스 소프트웨어 라이브러리로, 뉴욕시에 본사를 둔 이 회사는 2016년 프랑스 기업가 클레망 들랑그, 줄리앙 쇼몽, 토마스 볼프에 의해 설립되었습니다. 이 라이브러리는 사전 훈련된 Transformer (architecture) 모델을 다운로드하고, 훈련시키고, 실행하기 위한 통합 인터페이스를 제공하며, 주로 텍스트 분류, 번역, 요약, 질문 응답과 같은 자연어 처리 작업을 위해 사용됩니다. OpenAI, Anthropic, Google DeepMind를 포함한 주요 제공업체의 모델을 지원하며, PyTorch 및 TensorFlow와 같은 인기 있는 Machine learning 프레임워크와 통합됩니다. 이 라이브러리는 모델과 데이터 세트를 공유하기 위한 Hugging Face Hub도 포함하는 Hugging Face 생태계의 초석이며, 학계와 산업계 모두에서 널리 사용됩니다.
이 라이브러리는 2018년 Hugging Face가 챗봇 앱에서 머신 러닝 플랫폼으로 전환하면서 도입되었습니다. 최소한의 코드로 수천 개의 사전 훈련된 모델에 대한 접근을 제공하여 연구자와 개발자에게 빠르게 표준 도구가 되었습니다. 2025년 현재, Large language model, 비전-언어 모델, 음성 모델을 포함한 다양한 모델 아키텍처를 지원하며, AMD, Intel, NVIDIA의 하드웨어 가속기와 호환됩니다.
아키텍처 및 기능
Hugging Face Transformers는 모델 구현의 복잡성을 추상화하는 고수준 API를 중심으로 구축되었습니다. 모델 식별자를 기반으로 적절한 아키텍처와 토크나이저를 자동으로 로드하는 AutoModel 및 AutoTokenizer 클래스를 제공합니다. 이 라이브러리는 PyTorch와 TensorFlow를 모두 지원하여 사용자가 최소한의 변경으로 프레임워크를 전환할 수 있게 합니다. 주요 기능은 다음과 같습니다:
- 모델 허브 통합: Hugging Face Hub에서 모델과 데이터 세트를 원활하게 업로드하고 다운로드할 수 있습니다.
- 훈련 유틸리티:
Trainer클래스를 통한 미세 조정 지원이 내장되어 있으며, 분산 훈련 및 혼합 정밀도를 포함합니다. - 추론 최적화: vLLM 및 sglang과 같은 추론 엔진과의 통합을 통해 효율적인 서빙을 지원합니다.
- 내보내기 기능: Optimum 라이브러리는 모델을 다양한 플랫폼에 배포하기 위해 ONNX로 내보낼 수 있습니다.
이 라이브러리는 프레임워크에 구애받지 않도록 설계되어 즉시 실행(eager execution)과 그래프 기반 컴파일을 모두 지원합니다. 또한 토큰화, 특징 추출, 파이프라인 기반 추론을 위한 유틸리티를 포함하여 초보자와 고급 사용자 모두에게 접근성을 제공합니다.
생태계 및 통합
Hugging Face Transformers는 Hugging Face Hub, 데이터 세트 라이브러리, 토크나이저 라이브러리를 포함하는 더 큰 소프트웨어 생태계의 일부입니다. 다양한 외부 도구 및 프레임워크와 통합됩니다:
- llama.cpp 및 Ollama는 Hugging Face Hub에서 직접 GGUF 모델을 다운로드하고 실행할 수 있습니다.
- LM Studio는 Hub에서 GGUF 및 MLX 모델을 검색하고 실행하는 것을 지원합니다.
- MLX, Apple의 머신 러닝 프레임워크는 MLX-LM을 통해 온디바이스 추론을 위해 통합됩니다.
- ONNX Runtime은 크로스 플랫폼 배포를 위해 Optimum을 통해 지원됩니다.
- NVIDIA Nemotron 모델은 기본적으로 지원되며, 라이브러리는 AWS Trainium 및 기타 특수 하드웨어와 함께 작동합니다.
이러한 통합은 Transformers를 모델 상호 운용성의 중심 허브로 만들어 사용자가 다양한 환경에서 방대한 사전 훈련된 모델을 활용할 수 있게 합니다.
영향 및 사용
출시 이후 Hugging Face Transformers는 Artificial intelligence 및 Deep learning 분야에서 가장 널리 사용되는 라이브러리 중 하나가 되었습니다. 수천 개의 연구 논문에서 인용되며, Amazon Web Services, Google Cloud, Microsoft Azure를 포함한 주요 기업에서 사용됩니다. 이 라이브러리는 최첨단 모델에 대한 접근을 민주화하여 개발자들이 최소한의 노력으로 Generative AI 기능을 애플리케이션에 통합할 수 있게 했습니다. 오픈 소스 특성 덕분에 모델, 튜토리얼, 확장 기능을 기여하는 활발한 커뮤니티가 형성되었습니다.
이 라이브러리는 BLOOM 모델을 만든 BigScience 연구 워크숍 및 meta와의 협업(유니세프와의 협업은 직접적인 관련이 없지만)과 같은 주요 이니셔티브에서도 중요한 역할을 했습니다. 2025년 현재, 새로운 아키텍처와 하드웨어를 지원하기 위한 지속적인 업데이트와 함께 연구 및 생산 모두에서 핵심 도구로 남아 있습니다.
개발 및 거버넌스
Hugging Face Transformers는 GitHub에서 공개적으로 개발되며 전 세계 커뮤니티의 기여를 받습니다. 이 프로젝트는 Hugging Face Hub 및 관련 도구도 관리하는 Hugging Face, Inc.가 주도합니다. 이 라이브러리는 Apache License 2.0에 따라 출시되어 자유로운 사용과 수정이 가능합니다. 정기적인 릴리스를 통해 새로운 모델, 성능 개선, 버그 수정이 도입되며, 이전 버전과의 호환성에 중점을 둡니다.
회사의 가치는 2023년 8월 Salesforce, Google, Nvidia가 참여한 자금 조달 라운드 이후 45억 달러에 도달했습니다. 2026년 8월, Nvidia는 Hugging Face를 129억 달러에 인수하기로 합의했으며, 이는 Transformers를 Nvidia의 하드웨어 및 소프트웨어 스택과 더욱 통합할 것으로 예상됩니다.