Hugging Face Transformers 是一个开源软件库,由 Hugging Face, Inc. 开发,该公司总部位于纽约市,由法国企业家 Clément Delangue、Julien Chaumond 和 Thomas Wolf 于 2016 年创立。该库提供了一个统一接口,用于下载、训练和运行预训练的Transformer模型,主要面向自然语言处理任务,如文本分类、翻译、摘要和问答。它支持来自主要提供商(包括 OpenAI、Anthropic 和 Google DeepMind)的模型,并与 PyTorch 和 TensorFlow 等流行的机器学习框架集成。该库是 Hugging Face 生态系统的基石,该生态系统还包括用于共享模型和数据集的 Hugging Face Hub,并在学术界和工业界得到广泛应用。
该库于 2018 年推出,是 Hugging Face 从聊天机器人应用转向机器学习平台的一部分。它迅速成为研究人员和开发者的标准工具,以最少的代码提供对数千个预训练模型的访问。截至 2025 年,它支持广泛的模型架构,包括大型语言模型、视觉语言模型和语音模型,并与 AMD、Intel 和 NVIDIA 的硬件加速器兼容。
架构与特性
Hugging Face Transformers 围绕一个高级 API 构建,该 API 抽象了模型实现的复杂性。它提供 AutoModel 和 AutoTokenizer 类,可根据模型标识符自动加载相应的架构和分词器。该库同时支持 PyTorch 和 TensorFlow,允许用户以最小的更改在框架之间切换。主要特性包括:
- Model Hub 集成:从 Hugging Face Hub 无缝下载和上传模型及数据集。
- 训练工具:通过
Trainer类内置支持微调,包括分布式训练和混合精度。 - 推理优化:与 vLLM 和 sglang 等推理引擎集成,实现高效服务。
- 导出能力:Optimum 库可将模型导出为 ONNX,以便在各种平台上部署。
该库设计为框架无关,支持即时执行和基于图的编译。它还包括用于分词、特征提取和基于流水线的推理的工具,使其对初学者和高级用户都易于使用。
生态系统与集成
Hugging Face Transformers 是更大软件生态系统的一部分,该生态系统包括 Hugging Face Hub、datasets 库和 tokenizers 库。它与众多外部工具和框架集成:
- llama.cpp 和 Ollama 可直接从 Hugging Face Hub 下载和运行 GGUF 模型。
- LM Studio 支持从 Hub 搜索和运行 GGUF 和 MLX 模型。
- MLX(Apple 的机器学习框架)通过 MLX-LM 集成,用于设备端推理。
- ONNX Runtime 通过 Optimum 支持,用于跨平台部署。
- NVIDIA Nemotron 模型原生支持,该库可与 AWS Trainium 和其他专用硬件配合使用。
这些集成使 Transformers 成为模型互操作性的中心枢纽,使用户能够在不同环境中利用大量预训练模型。
影响与使用
自发布以来,Hugging Face Transformers 已成为人工智能和深度学习中使用最广泛的库之一。它在数千篇研究论文中被引用,并被包括 Amazon Web Services、Google Cloud 和 Azure 在内的主要公司使用。该库使最先进模型的访问民主化,允许开发者以最小的努力将生成式人工智能能力整合到应用中。其开源特性培育了一个大型社区,贡献了模型、教程和扩展。
该库还在重大计划中发挥了作用,例如 BigScience 研究研讨会(该研讨会产出了 BLOOM 模型),以及与 Meta 和 UNICEF 的合作(尽管后者并非直接相关)。截至 2025 年,它仍然是研究和生产的关键工具,并持续更新以支持新架构和硬件。
开发与治理
Hugging Face Transformers 在 GitHub 上公开开发,由全球社区贡献。该项目由 Hugging Face, Inc. 领导,该公司还管理 Hugging Face Hub 和相关工具。该库在 Apache License 2.0 下发布,允许自由使用和修改。定期发布引入新模型、性能改进和错误修复,并高度重视向后兼容性。
在 Salesforce、Google 和 Nvidia 支持的一轮融资后,该公司估值于 2023 年 8 月达到 45 亿美元。2026 年 8 月,Nvidia 同意以 129 亿美元收购 Hugging Face,此举预计将进一步将 Transformers 与 Nvidia 的硬件和软件栈集成。