GPT-4 Turbo es un modelo de lenguaje de gran tamaño desarrollado por OpenAI, lanzado en noviembre de 2023 como una versión mejorada del modelo GPT-4. Cuenta con una ventana de contexto de 128K, lo que le permite procesar significativamente más texto en una sola solicitud, y ofrece un precio más económico por token en comparación con su predecesor. El modelo se presentó junto con GPT-4 Turbo with Vision, que añadió capacidades de comprensión de imágenes. Este lanzamiento tenía como objetivo abordar los comentarios de los desarrolladores sobre las limitaciones de costo y contexto, haciendo que la IA avanzada fuera más accesible para una gama más amplia de aplicaciones.
Antecedentes
OpenAI presentó el primer modelo GPT (GPT-1) en 2018, basado en la arquitectura de transformadores y entrenado con un gran corpus de libros. Al año siguiente, lanzaron GPT-2, un modelo más grande capaz de generar texto coherente. En 2020, GPT-3 siguió con más de 100 veces más parámetros que GPT-2, y posteriormente se refinó en GPT-3.5, que impulsó el producto ChatGPT. GPT-4, lanzado en marzo de 2023, marcó un salto significativo con capacidades multimodales, aceptando tanto entradas de texto como de imagen. Sin embargo, su ventana de contexto predeterminada de 8K y su costo relativamente alto impulsaron el desarrollo de GPT-4 Turbo, diseñado para ser más rápido, más barato y más capaz en el manejo de contenido de formato largo.
Lanzamiento y disponibilidad
OpenAI anunció GPT-4 Turbo el 6 de noviembre de 2023, durante su primera conferencia de desarrolladores, OpenAI DevDay. El modelo se puso a disposición a través de la API de OpenAI, con una versión preliminar para desarrolladores. El lanzamiento incluyó dos variantes: GPT-4 Turbo, optimizado para tareas basadas en texto, y GPT-4 Turbo with Vision, que podía procesar imágenes junto con texto. El precio se fijó en $0.01 por cada 1,000 tokens de entrada y $0.03 por cada 1,000 tokens de salida, significativamente más bajo que los $0.03 y $0.06 por cada 1,000 tokens de GPT-4, respectivamente. Esta reducción de precio tenía como objetivo fomentar una adopción y experimentación más amplias. El modelo también se integró en ChatGPT para usuarios Plus y Enterprise, proporcionando acceso a la ventana de contexto extendida y un rendimiento mejorado.
Capacidades
La característica más notable de GPT-4 Turbo es su ventana de contexto de 128K, que le permite procesar aproximadamente 300 páginas de texto en una sola indicación. Esto permite manejar documentos largos, libros y conversaciones complejas sin truncamiento. El modelo también admite llamadas a funciones, lo que permite a los desarrolladores integrar API y herramientas externas, y un modo JSON mejorado para salidas estructuradas. Conserva las habilidades multimodales de GPT-4, aceptando entradas de imagen para tareas como subtitulado de imágenes y respuesta a preguntas visuales. Además, GPT-4 Turbo puede interactuar con interfaces externas, como realizar búsquedas web cuando se le solicita con etiquetas específicas, lo que le permite acceder a información actualizada más allá de sus datos de entrenamiento. Esto lo hace útil para tareas como resumir páginas web, generar imágenes y usar API.
Rendimiento y puntos de referencia
En pruebas estandarizadas, GPT-4 Turbo demostró un rendimiento sólido, aunque no se divulgaron por completo las puntuaciones específicas de los puntos de referencia. En las Pruebas de Pensamiento Creativo de Torrance, GPT-4 (el modelo base) obtuvo una puntuación dentro del 1% superior en originalidad y fluidez, con puntuaciones de flexibilidad que oscilaron entre el percentil 93 y 99. Para tareas de codificación, un artículo de 2023 en Nature señaló que los programadores encontraron útil a GPT-4 para identificar errores y sugerir optimizaciones. En una prueba de 89 escenarios de seguridad, GPT-4 produjo código vulnerable a ataques de inyección SQL solo el 5% de las veces, en comparación con el 40% de GitHub Copilot de 2021. Se espera que GPT-4 Turbo se base en estas capacidades, aunque los puntos de referencia independientes fueron limitados en el lanzamiento.
Precios y eficiencia de costos
El modelo de precios de GPT-4 Turbo fue un punto de venta importante. A $0.01 por cada 1,000 tokens de entrada y $0.03 por cada 1,000 tokens de salida, era aproximadamente tres veces más barato que GPT-4. Esta reducción hizo factible su uso en aplicaciones de alto volumen, como chatbots de atención al cliente, generación de contenido y análisis de datos. El menor costo también permitió a los desarrolladores experimentar con indicaciones más largas y tareas más complejas sin incurrir en gastos prohibitivos. OpenAI posicionó esto como parte de su misión de hacer que la IA sea más accesible, y el precio fue bien recibido por la comunidad de desarrolladores.
Limitaciones y seguridad
Al igual que sus predecesores, GPT-4 Turbo puede alucinar, produciendo salidas que incluyen información que no está en sus datos de entrenamiento o que contradicen la indicación del usuario. También carece de transparencia en la toma de decisiones, ya que sus explicaciones se forman de manera retrospectiva y pueden no reflejar el proceso de razonamiento real. En 2023, los investigadores probaron GPT-4 con el punto de referencia ConceptARC para el razonamiento abstracto, donde obtuvo una puntuación inferior al 33% en todas las categorías, mientras que los modelos especializados obtuvieron un 60% y los humanos al menos un 91%. Sam Bowman, que no participó en la investigación, advirtió que los resultados pueden no indicar una falta de razonamiento abstracto, ya que la prueba es visual mientras que GPT-4 es un modelo de lenguaje. Además, GPT-4 Turbo puede exhibir sesgos cognitivos, como el sesgo de confirmación y el anclaje, como sugirieron los investigadores de Microsoft. OpenAI ha implementado medidas de seguridad, incluido el aprendizaje por refuerzo con retroalimentación humana, para reducir las salidas dañinas, pero estas no son infalibles.
Impacto y recepción
El lanzamiento de GPT-4 Turbo se consideró un movimiento estratégico para consolidar la posición de OpenAI en el competitivo panorama de la IA. Su combinación de contexto extendido, menor costo y rendimiento mejorado lo convirtió en una opción popular para los desarrolladores que crean aplicaciones impulsadas por IA. La capacidad del modelo para manejar documentos largos y tareas complejas abrió nuevos casos de uso, como el análisis de documentos legales, la investigación académica y la gestión del conocimiento empresarial. La reducción de precios también presionó a competidores como Anthropic y Google para ajustar sus ofertas. Sin embargo, algunos críticos señalaron que el modelo aún enfrentaba desafíos con la precisión y el sesgo, y la falta de transparencia sobre sus detalles de entrenamiento seguía siendo una preocupación. En general, GPT-4 Turbo fue ampliamente adoptado y contribuyó al rápido avance de la tecnología de IA generativa.
Desarrollos futuros
Después de GPT-4 Turbo, OpenAI continuó iterando en sus modelos. En mayo de 2024, la empresa presentó GPT-4o, un sucesor que procesa modalidades de texto, audio e imagen en tiempo real, con tiempos de respuesta comparables a la conversación humana. GPT-4o también se puso a disposición de los usuarios de nivel gratuito, a diferencia de GPT-4. El desarrollo de GPT-4 Turbo y sus sucesores refleja la tendencia continua hacia sistemas de IA más eficientes, multimodales y accesibles. A partir de 2025, GPT-4 Turbo sigue en uso, aunque OpenAI ha lanzado desde entonces modelos más nuevos, y la empresa ha anunciado planes para retirar GPT-4 de la API en octubre de 2026. La evolución de GPT-4 a GPT-4 Turbo y más allá ilustra el rápido ritmo de innovación en el campo de los modelos de lenguaje de gran tamaño.