Hugging Face Transformers est une bibliothèque logicielle open source développée par Hugging Face, Inc., une entreprise basée à New York fondée en 2016 par les entrepreneurs français Clément Delangue, Julien Chaumond et Thomas Wolf. La bibliothèque fournit une interface unifiée pour télécharger, entraîner et exécuter des modèles transformers pré-entraînés, principalement pour des tâches de traitement du langage naturel telles que la classification de texte, la traduction, le résumé et la réponse aux questions. Elle prend en charge les modèles de grands fournisseurs, notamment OpenAI, Anthropic et Google DeepMind, et s'intègre avec des frameworks d'apprentissage automatique populaires comme PyTorch et TensorFlow. La bibliothèque est une pierre angulaire de l'écosystème Hugging Face, qui comprend également le Hub Hugging Face pour le partage de modèles et de jeux de données, et est largement utilisée dans le monde universitaire et industriel.
La bibliothèque a été introduite en 2018 dans le cadre de la transition de Hugging Face d'une application de chat vers une plateforme d'apprentissage automatique. Elle est rapidement devenue un outil standard pour les chercheurs et les développeurs, offrant un accès à des milliers de modèles pré-entraînés avec un minimum de code. En 2025, elle prend en charge une large gamme d'architectures de modèles, notamment les grands modèles de langage, les modèles vision-langage et les modèles vocaux, et est compatible avec les accélérateurs matériels d'AMD, Intel et Nvidia.
Architecture et fonctionnalités
Hugging Face Transformers est construit autour d'une API de haut niveau qui abstrait les complexités de l'implémentation des modèles. Elle fournit des classes AutoModel et AutoTokenizer qui chargent automatiquement l'architecture et le tokenizer appropriés en fonction d'un identifiant de modèle. La bibliothèque prend en charge à la fois PyTorch et TensorFlow, permettant aux utilisateurs de passer d'un framework à l'autre avec des modifications minimales. Les principales fonctionnalités incluent :
- Intégration du Hub : téléchargement et partage transparents de modèles et de jeux de données depuis le Hub Hugging Face.
- Utilitaires d'entraînement : prise en charge intégrée du fine-tuning avec la classe
Trainer, y compris l'entraînement distribué et la précision mixte. - Optimisation de l'inférence : intégration avec des moteurs d'inférence comme vLLM et sglang pour un service efficace.
- Capacités d'exportation : la bibliothèque Optimum peut exporter des modèles vers ONNX pour un déploiement sur diverses plateformes.
La bibliothèque est conçue pour être indépendante du framework, prenant en charge à la fois l'exécution en mode eager et la compilation en mode graphe. Elle comprend également des utilitaires pour la tokenisation, l'extraction de caractéristiques et l'inférence basée sur des pipelines, la rendant accessible aux débutants comme aux utilisateurs avancés.
Écosystème et intégrations
Hugging Face Transformers fait partie d'un écosystème logiciel plus vaste qui comprend le Hub Hugging Face, la bibliothèque datasets et la bibliothèque tokenizers. Elle s'intègre avec de nombreux outils et frameworks externes :
- llama.cpp et Ollama peuvent télécharger et exécuter des modèles GGUF directement depuis le Hub Hugging Face.
- LM Studio prend en charge la recherche et l'exécution de modèles GGUF et MLX depuis le Hub.
- MLX, le framework d'apprentissage automatique d'Apple, s'intègre via MLX-LM pour l'inférence sur appareil.
- ONNX Runtime est pris en charge via Optimum pour un déploiement multiplateforme.
- Les modèles NVIDIA Nemotron sont pris en charge nativement, et la bibliothèque fonctionne avec AWS Trainium et d'autres matériels spécialisés.
Ces intégrations font de Transformers un hub central pour l'interopérabilité des modèles, permettant aux utilisateurs de tirer parti d'une vaste gamme de modèles pré-entraînés sur différents environnements.
Impact et utilisation
Depuis sa sortie, Hugging Face Transformers est devenue l'une des bibliothèques les plus utilisées dans le domaine de l'intelligence artificielle et du deep learning. Elle est citée dans des milliers d'articles de recherche et est utilisée par de grandes entreprises, notamment Amazon Web Services, Google Cloud et Azure. La bibliothèque a démocratisé l'accès aux modèles de pointe, permettant aux développeurs d'intégrer des capacités de IA générative dans leurs applications avec un effort minimal. Sa nature open source a favorisé une communauté importante qui contribue avec des modèles, des tutoriels et des extensions.
La bibliothèque a également joué un rôle dans des initiatives majeures, telles que l'atelier de recherche BigScience, qui a produit le modèle BLOOM, et des collaborations avec Meta et l'UNICEF (bien que cette dernière ne soit pas directement liée). En 2025, elle reste un outil clé pour la recherche et la production, avec des mises à jour continues pour prendre en charge de nouvelles architectures et de nouveaux matériels.
Développement et gouvernance
Hugging Face Transformers est développée ouvertement sur GitHub, avec des contributions d'une communauté mondiale. Le projet est dirigé par Hugging Face, Inc., qui supervise également le Hub Hugging Face et les outils associés. La bibliothèque est publiée sous la licence Apache 2.0, permettant une utilisation et une modification libres. Des versions régulières introduisent de nouveaux modèles, des améliorations de performances et des corrections de bugs, avec un fort accent sur la rétrocompatibilité.
La valorisation de l'entreprise a atteint 4,5 milliards de dollars en août 2023 après un cycle de financement soutenu par Salesforce, Google et Nvidia. En août 2026, Nvidia a accepté d'acquérir Hugging Face pour 12,9 milliards de dollars, une décision qui devrait intégrer davantage Transformers avec la pile matérielle et logicielle de Nvidia.