GPT-3.5 est un grand modèle de langage développé par OpenAI, publié en 2022 comme successeur raffiné de GPT-3. Il s'agit d'une architecture transformeur à décodeur seul, s'appuyant sur les mêmes principes d'apprentissage profond que son prédécesseur, mais avec des améliorations en matière de suivi d'instructions, de précision factuelle et de cohérence conversationnelle. GPT-3.5 a servi de moteur à la première version publique de ChatGPT, lancée en novembre 2022, et est devenu l'un des systèmes de IA générative les plus utilisés de son époque.
Le modèle faisait partie de la série GPT d'OpenAI, qui a commencé avec GPT-1 en 2018 et s'est poursuivie avec GPT-2 en 2019 et GPT-3 en 2020. GPT-3.5 représentait une étape intermédiaire entre GPT-3 et le GPT-4 ultérieur, intégrant des techniques issues de la recherche InstructGPT d'OpenAI pour mieux aligner les sorties sur les intentions des utilisateurs. Contrairement à GPT-3, qui nécessitait souvent une ingénierie de prompt minutieuse, GPT-3.5 était conçu pour répondre plus naturellement aux instructions directes, ce qui le rendait adapté aux applications interactives comme les chatbots.
Développement et publication
OpenAI a introduit GPT-3.5 à travers une série de versions de modèles début 2022, avec la première disponibilité publique via API en mars 2022. Le nom « GPT-3.5 » désignait une famille de modèles incluant code-davinci-002 et text-davinci-003, chacun optimisé pour différentes tâches. La sortie la plus notable fut l'interface ChatGPT, lancée le 30 novembre 2022, utilisant un modèle GPT-3.5 affiné pour le dialogue. Ce lancement a marqué un tournant dans la sensibilisation du public à l'intelligence artificielle, ChatGPT atteignant plus de 100 millions d'utilisateurs en deux mois.
Le développement de GPT-3.5 s'est appuyé sur la même infrastructure d'entraînement que GPT-3, qui comptait 175 milliards de paramètres et nécessitait 350 Go de stockage en précision 16 bits. Bien que le nombre exact de paramètres de GPT-3.5 n'ait pas été divulgué publiquement, il était largement compris comme étant d'une échelle similaire, avec des améliorations axées sur la curation des données d'entraînement, l'affinage et l'alignement plutôt que sur la taille brute. OpenAI a utilisé une combinaison d'affinage supervisé et de apprentissage par renforcement à partir de retours humains pour améliorer le comportement du modèle, une technique détaillée pour la première fois dans leur article InstructGPT publié début 2022.
Capacités et performances
GPT-3.5 a démontré de fortes capacités en génération de texte, résumé, traduction, réponse à des questions et écriture de code. Il pouvait gérer une fenêtre de contexte allant jusqu'à 4 096 jetons dans certaines versions, soit le double des 2 048 jetons de GPT-3, permettant de traiter des entrées plus longues. Le modèle excellait dans l'apprentissage en quelques exemples, où il pouvait effectuer de nouvelles tâches à partir de quelques exemples dans le prompt, et montrait des améliorations marquées dans le suivi d'instructions en zéro exemple par rapport à GPT-3.
Dans les benchmarks, GPT-3.5 surpassait GPT-3 sur plusieurs tâches de compréhension et de génération de langage naturel, notamment la suite SuperGLUE et divers défis de codage. Il était également capable de générer des conversations multi-tours cohérentes, une caractéristique qui le rendait particulièrement adapté aux applications de chatbot. Cependant, il présentait encore des limitations, notamment des erreurs factuelles occasionnelles, une sensibilité à la formulation des prompts et une tendance à produire des informations plausibles mais incorrectes, des problèmes qu'OpenAI a reconnus et cherché à atténuer dans les versions ultérieures.
Applications et impact
La sortie de ChatGPT basé sur GPT-3.5 a eu un impact profond sur l'industrie technologique et le discours public autour du apprentissage automatique. Elle a stimulé une vague d'investissements dans les startups de IA générative et a incité de grandes entreprises comme Google DeepMind, Anthropic et d'autres à accélérer leurs propres efforts en matière de grands modèles de langage. GPT-3.5 a été intégré dans une large gamme de produits, notamment le service Azure OpenAI de Microsoft, qui proposait le modèle aux clients d'entreprise via une infrastructure cloud.
Au-delà des chatbots, GPT-3.5 était utilisé pour la génération de contenu, l'assistance au codage, les outils éducatifs et l'automatisation du support client. Sa capacité à générer un texte semblable à celui d'un humain a soulevé à la fois des opportunités et des préoccupations, conduisant à des discussions sur la désinformation, le déplacement d'emplois et l'utilisation éthique de l'IA. OpenAI a mis en œuvre des outils de modération de contenu et des politiques d'utilisation pour répondre à certains de ces risques, mais la disponibilité généralisée du modèle a également suscité des appels à la réglementation et à la transparence dans le développement de l'IA.
Architecture technique
GPT-3.5 a conservé l'architecture de base de GPT-3, qui est un transformeur basé sur un réseau de neurones avec une pile de décodeurs multicouches. Il utilise des mécanismes de attention multi-têtes pour pondérer la pertinence des différents mots dans l'entrée, lui permettant de capturer les dépendances à longue portée dans le texte. Le modèle a été pré-entraîné sur un corpus diversifié de textes Internet, incluant des données Common Crawl filtrées, des livres et Wikipédia, en utilisant un objectif de prédiction du jeton suivant. L'affinage pour le suivi d'instructions impliquait un entraînement supplémentaire sur des démonstrations et des comparaisons écrites par des humains, un processus qui alignait les sorties du modèle sur les attentes des utilisateurs.
Une amélioration technique notable dans GPT-3.5 était l'utilisation d'un filtrage et d'une déduplication plus raffinés des données d'entraînement, ce qui réduisait la présence de textes de faible qualité ou répétitifs. Cela a contribué à des sorties plus cohérentes et moins biaisées par rapport à GPT-3. Le modèle a également bénéficié des avancées dans les techniques de planification du taux d'apprentissage et de écrêtage du gradient, bien que les détails spécifiques de l'entraînement n'aient pas été entièrement divulgués par OpenAI.
Héritage et successeurs
GPT-3.5 a servi de pont entre le GPT-3 orienté recherche et le GPT-4 plus avancé, qu'OpenAI a publié en mars 2023. Bien que GPT-4 ait offert des améliorations significatives en matière de raisonnement et de précision, GPT-3.5 est resté utilisé dans de nombreuses applications en raison de son coût de calcul plus faible et de ses temps de réponse plus rapides. OpenAI a continué à mettre à jour les modèles GPT-3.5, avec des versions comme gpt-3.5-turbo devenant un choix populaire pour les développeurs cherchant un équilibre entre performance et efficacité.
Le succès de GPT-3.5 a également influencé l'écosystème plus large de l'IA, encourageant la recherche sur l'alignement des modèles, la sécurité et l'interprétabilité. Il a mis en évidence le potentiel des grands modèles de langage à effectuer une grande variété de tâches sans entraînement spécifique à la tâche, un concept exploré dans des modèles antérieurs mais rendu pratique à grande échelle. En 2024, GPT-3.5 était toujours disponible via l'API d'OpenAI, bien qu'il fût progressivement supplanté par des modèles plus récents dans de nombreux cas d'utilisation.