GPT-3.5 es un modelo de lenguaje de gran tamaño desarrollado por OpenAI, lanzado en 2022 como un sucesor refinado de GPT-3. Es una arquitectura transformador de solo decodificador, basada en los mismos principios de aprendizaje profundo que su predecesor, pero con mejoras en el seguimiento de instrucciones, la precisión factual y la coherencia conversacional. GPT-3.5 sirvió como motor para la primera versión pública de ChatGPT, que se lanzó en noviembre de 2022, y se convirtió en uno de los sistemas de IA generativa más utilizados de su época.
El modelo formaba parte de la serie GPT de OpenAI, que comenzó con GPT-1 en 2018 y continuó con GPT-2 en 2019 y GPT-3 en 2020. GPT-3.5 representó un paso intermedio entre GPT-3 y el posterior GPT-4, incorporando técnicas de la investigación InstructGPT de OpenAI para alinear mejor las salidas con la intención del usuario. A diferencia de GPT-3, que a menudo requería una ingeniería de prompts cuidadosa, GPT-3.5 fue diseñado para responder de manera más natural a instrucciones directas, lo que lo hacía adecuado para aplicaciones interactivas como chatbots.
Desarrollo y lanzamiento
OpenAI introdujo GPT-3.5 a través de una serie de versiones del modelo a principios de 2022, con la primera disponibilidad pública de API en marzo de 2022. El nombre "GPT-3.5" se utilizó para denotar una familia de modelos que incluía code-davinci-002 y text-davinci-003, cada uno optimizado para diferentes tareas. El lanzamiento más notable fue la interfaz de ChatGPT, que se lanzó el 30 de noviembre de 2022, utilizando un modelo GPT-3.5 ajustado para el diálogo. Este lanzamiento marcó un punto de inflexión en la conciencia pública sobre la inteligencia artificial, ya que ChatGPT alcanzó más de 100 millones de usuarios en dos meses.
El desarrollo de GPT-3.5 se basó en la misma infraestructura de entrenamiento que GPT-3, que tenía 175 mil millones de parámetros y requería 350 GB de almacenamiento con precisión de 16 bits. Aunque el número exacto de parámetros de GPT-3.5 no se divulgó públicamente, se entendía ampliamente que era similar en escala, con mejoras centradas en la curación de datos de entrenamiento, el ajuste fino y la alineación en lugar del tamaño bruto. OpenAI utilizó una combinación de ajuste fino supervisado y aprendizaje por refuerzo a partir de retroalimentación humana para mejorar el comportamiento del modelo, una técnica detallada por primera vez en su artículo InstructGPT publicado a principios de 2022.
Capacidades y rendimiento
GPT-3.5 demostró fuertes capacidades en generación de texto, resumen, traducción, respuesta a preguntas y escritura de código. Podía manejar una ventana de contexto de hasta 4,096 tokens en algunas versiones, el doble de los 2,048 tokens de GPT-3, lo que le permitía procesar entradas más largas. El modelo destacaba en el aprendizaje con pocos ejemplos, donde podía realizar nuevas tareas con solo unos pocos ejemplos en el prompt, y mostraba mejoras notables en el seguimiento de instrucciones con cero ejemplos en comparación con GPT-3.
En benchmarks, GPT-3.5 superó a GPT-3 en varias tareas de comprensión y generación de lenguaje natural, incluyendo el conjunto SuperGLUE y varios desafíos de codificación. También era capaz de generar conversaciones coherentes de múltiples turnos, una característica que lo hacía especialmente adecuado para aplicaciones de chatbot. Sin embargo, todavía presentaba limitaciones, incluidos errores factuales ocasionales, sensibilidad a la redacción del prompt y una tendencia a producir información plausible pero incorrecta, problemas que OpenAI reconoció y trabajó para mitigar en versiones posteriores.
Aplicaciones e impacto
El lanzamiento de ChatGPT basado en GPT-3.5 tuvo un profundo impacto en la industria tecnológica y el discurso público sobre el aprendizaje automático. Impulsó una ola de inversión en startups de IA generativa y llevó a grandes empresas como Google DeepMind, Anthropic y otras a acelerar sus propios esfuerzos en modelos de lenguaje de gran tamaño. GPT-3.5 se integró en una amplia gama de productos, incluido el servicio Azure OpenAI de Microsoft, que ofrecía el modelo a clientes empresariales a través de infraestructura en la nube.
Más allá de los chatbots, GPT-3.5 se utilizó para generación de contenido, asistencia de código, herramientas educativas y automatización de atención al cliente. Su capacidad para generar texto similar al humano planteó tanto oportunidades como preocupaciones, lo que llevó a discusiones sobre desinformación, desplazamiento laboral y el uso ético de la IA. OpenAI implementó herramientas de moderación de contenido y políticas de uso para abordar algunos de estos riesgos, pero la amplia disponibilidad del modelo también provocó llamados a la regulación y la transparencia en el desarrollo de la IA.
Arquitectura técnica
GPT-3.5 mantuvo la arquitectura central de GPT-3, que es una red neuronal basada en transformadores con una pila de decodificadores de múltiples capas. Utiliza mecanismos de atención de múltiples cabezas para ponderar la relevancia de diferentes palabras en la entrada, lo que le permite capturar dependencias de largo alcance en el texto. El modelo fue preentrenado en un corpus diverso de texto de internet, incluidos datos filtrados de Common Crawl, libros y Wikipedia, utilizando un objetivo de predicción de siguiente token. El ajuste fino para el seguimiento de instrucciones implicó entrenamiento adicional en demostraciones y comparaciones escritas por humanos, un proceso que alineó las salidas del modelo con las expectativas del usuario.
Una mejora técnica notable en GPT-3.5 fue el uso de un filtrado y deduplicación de datos de entrenamiento más refinados, lo que redujo la presencia de texto de baja calidad o repetitivo. Esto contribuyó a salidas más coherentes y menos sesgadas en comparación con GPT-3. El modelo también se benefició de avances en técnicas de programa de tasa de aprendizaje y recorte de gradientes, aunque los detalles específicos del entrenamiento no fueron completamente divulgados por OpenAI.
Legado y sucesores
GPT-3.5 sirvió como puente entre el GPT-3 orientado a la investigación y el más avanzado GPT-4, que OpenAI lanzó en marzo de 2023. Aunque GPT-4 ofreció mejoras significativas en razonamiento y precisión, GPT-3.5 permaneció en uso para muchas aplicaciones debido a su menor costo computacional y tiempos de respuesta más rápidos. OpenAI continuó actualizando los modelos GPT-3.5, con versiones como gpt-3.5-turbo convirtiéndose en una opción popular para desarrolladores que buscaban un equilibrio entre rendimiento y eficiencia.
El éxito de GPT-3.5 también influyó en el ecosistema más amplio de la IA, fomentando la investigación en alineación de modelos, seguridad e interpretabilidad. Destacó el potencial de los modelos de lenguaje de gran tamaño para realizar una amplia variedad de tareas sin entrenamiento específico para cada tarea, un concepto que se había explorado en modelos anteriores pero que se hizo práctico a escala. A partir de 2024, GPT-3.5 seguía disponible a través de la API de OpenAI, aunque estaba siendo gradualmente superado por modelos más nuevos en muchos casos de uso.