GPT-4 Turbo est un grand modèle de langage développé par OpenAI, publié en novembre 2023 comme version améliorée du modèle GPT-4. Il dispose d'une fenêtre de contexte de 128K, lui permettant de traiter beaucoup plus de texte en une seule requête, et offre un prix par jeton moins élevé que son prédécesseur. Le modèle a été introduit aux côtés de GPT-4 Turbo avec Vision, qui ajoutait des capacités de compréhension d'images. Cette publication visait à répondre aux retours des développeurs concernant les limites de coût et de contexte, rendant l'IA avancée plus accessible pour un plus large éventail d'applications.
Contexte
OpenAI a introduit le premier modèle GPT (GPT-1) en 2018, basé sur l'architecture du transformeur et entraîné sur un vaste corpus de livres. L'année suivante, ils ont publié GPT-2, un modèle plus grand capable de générer un texte cohérent. En 2020, GPT-3 a suivi avec plus de 100 fois plus de paramètres que GPT-2, et a ensuite été affiné en GPT-3.5, qui a alimenté le produit ChatGPT. GPT-4, publié en mars 2023, a marqué un bond significatif avec des capacités multimodales, acceptant à la fois des entrées de texte et d'images. Cependant, sa fenêtre de contexte par défaut de 8K et son coût relativement élevé ont incité au développement de GPT-4 Turbo, conçu pour être plus rapide, moins cher et plus performant dans le traitement de contenus longs.
Publication et disponibilité
OpenAI a annoncé GPT-4 Turbo le 6 novembre 2023, lors de sa première conférence pour développeurs, OpenAI DevDay. Le modèle a été rendu disponible via l'API OpenAI, avec une version d'aperçu pour les développeurs. La publication comprenait deux variantes : GPT-4 Turbo, optimisé pour les tâches basées sur le texte, et GPT-4 Turbo avec Vision, capable de traiter des images en plus du texte. Le prix était fixé à 0,01 $ pour 1 000 jetons d'entrée et 0,03 $ pour 1 000 jetons de sortie, nettement inférieur à celui de GPT-4, qui était respectivement de 0,03 $ et 0,06 $ pour 1 000 jetons. Cette réduction de prix visait à encourager une adoption et une expérimentation plus larges. Le modèle a également été intégré à ChatGPT pour les utilisateurs Plus et Entreprise, offrant un accès à la fenêtre de contexte étendue et à des performances améliorées.
Capacités
La caractéristique la plus notable de GPT-4 Turbo est sa fenêtre de contexte de 128K, qui lui permet de traiter environ 300 pages de texte en une seule invite. Cela permet de gérer de longs documents, des livres et des conversations complexes sans troncature. Le modèle prend également en charge l'appel de fonctions, ce qui permet aux développeurs d'intégrer des API et des outils externes, ainsi qu'un mode JSON amélioré pour des sorties structurées. Il conserve les capacités multimodales de GPT-4, acceptant des entrées d'images pour des tâches comme la légende d'images et la réponse à des questions visuelles. De plus, GPT-4 Turbo peut interagir avec des interfaces externes, comme effectuer des recherches sur le web lorsqu'il est invité avec des balises spécifiques, lui permettant d'accéder à des informations à jour au-delà de ses données d'entraînement. Cela le rend utile pour des tâches comme résumer des pages web, générer des images et utiliser des API.
Performances et références
Lors de tests standardisés, GPT-4 Turbo a démontré de solides performances, bien que les scores spécifiques de référence n'aient pas été entièrement divulgués. Dans les tests de pensée créative de Torrance, GPT-4 (le modèle de base) a obtenu un score dans le top 1 % pour l'originalité et la fluidité, avec des scores de flexibilité allant du 93e au 99e percentile. Pour les tâches de codage, un article de 2023 dans Nature a noté que les programmeurs trouvaient GPT-4 utile pour identifier les erreurs et suggérer des optimisations. Lors d'un test de 89 scénarios de sécurité, GPT-4 a produit du code vulnérable aux attaques par injection SQL seulement 5 % du temps, contre 40 % pour GitHub Copilot de 2021. GPT-4 Turbo devrait s'appuyer sur ces capacités, bien que les références indépendantes aient été limitées au lancement.
Prix et efficacité des coûts
Le modèle de tarification de GPT-4 Turbo était un argument de vente majeur. À 0,01 $ pour 1 000 jetons d'entrée et 0,03 $ pour 1 000 jetons de sortie, il était environ trois fois moins cher que GPT-4. Cette réduction a rendu son utilisation viable pour des applications à volume élevé, telles que les chatbots de support client, la génération de contenu et l'analyse de données. Le coût réduit a également permis aux développeurs d'expérimenter avec des invites plus longues et des tâches plus complexes sans encourir de dépenses prohibitives. OpenAI a présenté cela comme faisant partie de sa mission de rendre l'IA plus accessible, et la tarification a été bien accueillie par la communauté des développeurs.
Limites et sécurité
Comme ses prédécesseurs, GPT-4 Turbo peut halluciner, produisant des sorties qui incluent des informations absentes de ses données d'entraînement ou qui contredisent l'invite de l'utilisateur. Il manque également de transparence dans la prise de décision, car ses explications sont formées a posteriori et peuvent ne pas refléter le processus de raisonnement réel. En 2023, des chercheurs ont testé GPT-4 sur le benchmark ConceptARC pour le raisonnement abstrait, où il a obtenu un score inférieur à 33 % dans toutes les catégories, tandis que des modèles spécialisés ont obtenu 60 % et les humains au moins 91 %. Sam Bowman, non impliqué dans la recherche, a averti que les résultats pourraient ne pas indiquer un manque de raisonnement abstrait, car le test est visuel alors que GPT-4 est un modèle de langage. De plus, GPT-4 Turbo peut présenter des biais cognitifs, tels que le biais de confirmation et l'ancrage, comme le suggèrent des chercheurs de Microsoft. OpenAI a mis en œuvre des mesures de sécurité, notamment l'apprentissage par renforcement à partir de retours humains, pour réduire les sorties nuisibles, mais celles-ci ne sont pas infaillibles.
Impact et réception
La publication de GPT-4 Turbo a été perçue comme une décision stratégique pour consolider la position d'OpenAI dans le paysage concurrentiel de l'IA. Sa combinaison de contexte étendu, de coût réduit et de performances améliorées en a fait un choix populaire pour les développeurs créant des applications alimentées par l'IA. La capacité du modèle à gérer de longs documents et des tâches complexes a ouvert de nouveaux cas d'utilisation, tels que l'analyse de documents juridiques, la recherche académique et la gestion des connaissances en entreprise. La réduction des prix a également exercé une pression sur des concurrents comme Anthropic et Google pour ajuster leurs offres. Cependant, certains critiques ont noté que le modèle rencontrait encore des défis en matière de précision et de biais, et le manque de transparence concernant les détails de son entraînement restait une préoccupation. Dans l'ensemble, GPT-4 Turbo a été largement adopté et a contribué à l'avancement rapide de la technologie de l'IA générative.
Développements futurs
Après GPT-4 Turbo, OpenAI a continué à itérer sur ses modèles. En mai 2024, l'entreprise a introduit GPT-4o, un successeur qui traite les modalités texte, audio et image en temps réel, avec des temps de réponse comparables à une conversation humaine. GPT-4o a également été rendu disponible aux utilisateurs du niveau gratuit, contrairement à GPT-4. Le développement de GPT-4 Turbo et de ses successeurs reflète la tendance continue vers des systèmes d'IA plus efficaces, multimodaux et accessibles. En 2025, GPT-4 Turbo reste en usage, bien qu'OpenAI ait depuis publié des modèles plus récents, et l'entreprise a annoncé son intention de retirer GPT-4 de l'API en octobre 2026. L'évolution de GPT-4 à GPT-4 Turbo et au-delà illustre le rythme rapide de l'innovation dans le domaine des grands modèles de langage.