GPT-4 (Generative Pre-trained Transformer 4) es un modelo de lenguaje de gran escala desarrollado por OpenAI, lanzado el 14 de marzo de 2023. Es el cuarto de la serie de modelos fundacionales GPT de OpenAI, sucediendo a GPT-3.5 y precediendo a GPT-5. A diferencia de sus predecesores, GPT-4 es multimodal, capaz de procesar tanto entradas de texto como de imagen. OpenAI no ha revelado detalles técnicos como el tamaño del modelo, la arquitectura o el hardware de entrenamiento, citando preocupaciones competitivas y de seguridad. El modelo se integró en Bing Chat de Microsoft en febrero de 2023 y estuvo disponible en ChatGPT en marzo de 2023, con su eliminación de ChatGPT en 2025. GPT-4 sigue siendo accesible a través de la API de OpenAI.
Antecedentes
OpenAI presentó el primer modelo GPT en 2018, basado en la arquitectura Transformer (architecture), entrenado con un gran corpus de libros. GPT-2 siguió en 2019, generando texto coherente a escala. En 2020, GPT-3 amplió los parámetros más de 100 veces en comparación con GPT-2, y refinamientos posteriores llevaron a GPT-3.5, que impulsó el chatbot ChatGPT. GPT-4 se basó en esta línea con capacidades mejoradas y entrada multimodal.
Capacidades
La versión predeterminada de GPT-4 presentaba una ventana de contexto de 8K, con una variante de API que admitía hasta 32K tokens. Su naturaleza multimodal permite la entrada de imágenes y texto, lo que habilita respuestas a cargas de fotos e interacciones habladas. GPT-4 puede ser instruido para interactuar con interfaces externas, como usar etiquetas de búsqueda para realizar consultas web, integrar resultados en respuestas y ejecutar tareas como llamadas a API, generación de imágenes y resumen de páginas web.
Un artículo de Nature de 2023 destacó la utilidad de GPT-4 en programación, a pesar de su propensión a errores. Un biofísico informó reducir una migración de MATLAB a Python de días a aproximadamente una hora. En pruebas de seguridad en 89 escenarios, GPT-4 produjo código vulnerable a inyección SQL el 5% de las veces, frente al 40% de GitHub Copilot en 2021. En noviembre de 2023, OpenAI anunció GPT-4 Turbo con una ventana de contexto de 128K y precios más bajos.
Aptitud en pruebas estandarizadas
Estudios han cuestionado la fiabilidad del rendimiento de los chatbots en pruebas. En las Pruebas de Pensamiento Creativo de Torrance, GPT-4 obtuvo el 1% superior en originalidad y fluidez, con puntuaciones de flexibilidad entre el percentil 93 y 99.
Aplicaciones médicas
Investigadores de Microsoft encontraron que GPT-4 superó la puntuación de aprobación del USMLE en más de 20 puntos, superando a GPT-3.5 y a modelos ajustados médicamente como Med-PaLM, sin necesidad de elaboración especializada de indicaciones. Sin embargo, advirtieron de riesgos significativos, incluidos recomendaciones inexactas y hechos alucinados. En abril de 2023, Microsoft y Epic Systems anunciaron sistemas impulsados por GPT-4 para consultas de pacientes y análisis de registros médicos.
GPT-4o
El 13 de mayo de 2024, OpenAI presentó GPT-4o ("o" por "omni"), que procesa modalidades de texto, audio e imagen en tiempo real. Ofrecía tiempos de respuesta rápidos, mejor rendimiento en idiomas no ingleses y estaba disponible para usuarios de nivel gratuito, a diferencia de GPT-4.
Limitaciones
GPT-4 puede alucinar, produciendo resultados que no están en los datos de entrenamiento o que contradicen las indicaciones. Su toma de decisiones carece de transparencia; las explicaciones son posteriores y a menudo no verificables, a veces contradiciendo declaraciones anteriores. En 2023, pruebas en el punto de referencia ConceptARC para razonamiento abstracto mostraron que GPT-4 obtuvo menos del 33% en todas las categorías, mientras que modelos especializados obtuvieron un 60% y los humanos al menos un 91%. Sam Bowman señaló que la naturaleza visual de la prueba puede no reflejar el razonamiento de los modelos de lenguaje.
Sesgo
El entrenamiento de GPT-4 implicó dos etapas: preentrenamiento no supervisado en texto de internet, seguido de aprendizaje por refuerzo con retroalimentación humana (RLHF) para rechazar indicaciones dañinas. Investigadores de Microsoft sugirieron que GPT-4 puede exhibir sesgos cognitivos como sesgo de confirmación, anclaje y negligencia de la tasa base.
Entrenamiento
El informe técnico de OpenAI omitió el tamaño del modelo, la arquitectura, el hardware, la construcción del conjunto de datos, el cómputo y los hiperparámetros. El entrenamiento utilizó aprendizaje supervisado y aprendizaje por refuerzo con retroalimentación humana y de IA. Sam Altman declaró que el costo del entrenamiento superó los 100 millones de dólares, aunque las cifras exactas no se han revelado.
Recepción e impacto
GPT-4 estableció nuevos puntos de referencia en IA, influyendo en modelos posteriores de competidores como Anthropic y Google DeepMind. Sus capacidades multimodales ampliaron las aplicaciones en IA generativa, desde herramientas creativas hasta diagnósticos médicos. Las limitaciones del modelo, incluidos la alucinación y el sesgo, provocaron debates sobre la seguridad y transparencia de la IA, impulsando investigaciones en métodos de alineación y evaluación.
Legado
El lanzamiento de GPT-4 marcó un hito en modelos de lenguaje de gran escala, demostrando utilidad práctica en diversos dominios. Su sucesor, GPT-5, continuó la serie, mientras que GPT-4 sigue siendo un punto de referencia para la IA multimodal. La influencia del modelo persiste en desarrollos continuos en inteligencia artificial y aprendizaje automático.