GPT-4 Turbo é um modelo de linguagem de grande escala desenvolvido pela OpenAI, anunciado em novembro de 2023 como uma versão aprimorada do modelo GPT-4 anterior. As suas melhorias mais notáveis incluyen uma janela de contexto de 128 mil tokens, permitindo ao modelo processar entradas significativamente mais longas, e uma estrutura de preços de API mais baixa. O lançamento também introdujo GPT-4 Turbo com Visão, uma variante capaz de processar tanto texto como imagens. GPT-4 Turbo foi sucedido pelo GPT-4o em maio de 2024, que oferecia processamento multimodal em tempo real e acesso gratuito para usuários do ChatGPT.
Antecedentes
OpenAI introdujo o primeiro modelo GPT em 2018, baseado na arquitetura transformador e treinado em um grande corpus de livros. Iterações subsequentes, GPT-2 em 2019 e GPT-3 em 2020, ampliaram os parâmetros e melhoraram a geração de texto. GPT-3.5 alimentou o lançamento inicial do ChatGPT em novembro de 2022, que trouxe os modelos de linguagem de grande escala à atenção do público. GPT-4, lançado em março de 2023, adicionou capacidades multimodais, aceitando entradas de texto e imagem. A versão padrão tinha uma janela de contexto de 8 mil tokens, com uma variante especial de API que suportava até 32 mil tokens. GPT-4 Turbo foi desenvolvido para abordar limitações no comprimento do contexto e no custo, com base no fundamento do seu predecessor.
Anuncio e Lançamento
OpenAI anunciou GPT-4 Turbo em 6 de novembro de 2023, na sua primeira conferência de desenvolvedores, DevDay, realizada em San Francisco. O modelo foi disponibilizado através da API da OpenAI, com precios estabelecidos em $0,01 por 1.000 tokens de entrada e $0,03 por 1.000 tokens de saída, aproximadamente três vezes mais barato que GPT-4. A janela de contexto de 128 mil tokens permitía processar documentos que excedem 300 páginas de texto numa única solicitação. OpenAI também introdujo uma versão atualizada de GPT-4 Turbo com Visão, que podía analizar imagens junto com texto. O anuncio destacou melhorias no seguimento de instruções, modo JSON e chamadas de função, tornando o modelo mais adequado para aplicações de desenvolvedores.
Capacidades
GPT-4 Turbo manteve as capacidades de entrada multimodal de GPT-4, permitindo aos usuários fornecer tanto texto como imagens. Podía interagir com ferramentas externas através de chamadas de função, habilitando tarefas como buscas na web, chamadas de API e geração de imagens. A janela de contexto expandida permitía ao modelo manter coerência em conversas mais longas e processar livros inteiros ou bases de código. Num artigo de 2023 na Nature, programadores reportaram que GPT-4 Turbo auxiliou em tarefas de codificação, como identificar erros e sugerir otimizaciones, embora fosse propenso a cometer erros. Num teste de 89 cenários de segurança, GPT-4 produjo código vulnerável a ataques de inyección SQL 5% das vezes, uma melhora em comparação com GitHub Copilot de 2021, que tinha uma taxa de vulnerabilidade de 40%.
Desempeño em Testes Estandarizados
Os estudos sobre o desempeño de GPT-4 Turbo em testes estandarizados foram limitados, mas avaliações anteriores de GPT-4 mostraram resultados fortes. Nos Testes de Pensamento Criativo de Torrance, GPT-4 obtuvo uma puntuación dentro do top 1% para originalidade e fluidez, com puntuaciones de flexibilidade que variaron do percentil 93 ao 99. Os investigadores advertieron que executar chatbots através de tais testes pode não ser confiable, já que os modelos podem gerar respostas plausibles pero incorrectas.
Aplicações Médicas
Investigadores da Microsoft testaron GPT-4 em problemas médicos e descobriron que excedía a puntuación de aprobado no Examen de Licenciamento Médico dos Estados Unidos por mais de 20 pontos, superando modelos anteriores como GPT-3.5 e modelos especializados como Med-PaLM. No entanto, advertieron sobre riscos significativos, incluindo recomendações imprecisas e alucinaciones de erros factuais importantes. Em abril de 2023, Microsoft e Epic Systems anunciaron planos para fornecer aos provedores de saúde sistemas alimentados por GPT-4 para responder preguntas de pacientes e analizar registros médicos, uma tendência que continuou com GPT-4 Turbo.
Limitaciones
Como os seus predecessores, GPT-4 Turbo podía alucinar, produzindo saídas que contradicen o prompt do usuário ou contienen información fabricada. Também carecía de transparencia na toma de decisões; quando se lhe pedía explicar o seu raciocinio, o modelo generaba explicaciones post-hoc que não podían ser verificadas como reflejo do processo real. Em 2023, investigadores testaron GPT-4 contra o benchmark ConceptARC, desenhado para medir raciocinio abstracto, e descobriron que puntuaba abaixo de 33% em todas as categorias, enquanto modelos especializados puntuaban 60% na maioria e os humanos puntuaban pelo menos 91%. Sam Bowman, não envolvido na pesquisa, notou que a natureza visual do teste pode desfavorecer a um modelo de linguagem.
Sesgo
GPT-4 Turbo foi treinado em duas etapas: primeiro, em grandes conjuntos de dados de texto da internet para predizer o próximo token, e segundo, usando aprendizagem por reforço a partir de feedback humano para alinear com diretrices de segurança. Investigadores da Microsoft sugeriron que GPT-4 exibía sesgos cognitivos como sesgo de confirmación, anclaje e negligência da taxa base. O processo de treinamento visava reduzir saídas prejudiciales, pero os sesgos podían ainda emerger.
Treinamento
OpenAI não divulgou detalhes técnicos do treinamento de GPT-4 Turbo, incluindo tamanho do modelo, arquitetura ou hardware. O informe técnico de GPT-4, que provavelmente se aplicava a Turbo, citou preocupações competitivas e de segurança para este secretismo. Sam Altman declarou que treinar GPT-4 custou mais de $100 milhões. O treinamento usou aprendizagem supervisada seguida de aprendizagem por reforzo com feedback tanto humano como de IA, pero especificações como hiperparámetros e construção do conjunto de dados não foram reveladas.
Recepción e Impacto
GPT-4 Turbo foi bem recebido pelos desenvolvedores devido ao seu menor custo e janela de contexto maior, que habilitaron novas aplicações como análise de documentos longos e fluxos de trabalho de agentes complexos. Reforzó a posição da OpenAI no panorama competitivo dos modelos de linguagem de grande escala, enfrentando rivais como Anthropic e Google DeepMind. O lançamento também destacou a tendência hacia modelos de IA mais eficientes e acessibles, influenciando desenvolvimentos subsequentes no campo. GPT-4 Turbo permaneció disponível na API da OpenAI até ser eventualmente substituido por modelos más novos, embora GPT-4 em si foi removido do ChatGPT em 2025.