GPT-4 é um modelo de linguagem de grande porte desenvolvido pela OpenAI, lançado em 14 de março de 2023, como o quarto da série Generative pre-trained transformer. Diferentemente de seus antecessores, o GPT-4 é um modelo multimodal que aceita tanto entradas de imagem quanto de texto, permitindo processar informações visuais juntamente com linguagem escrita. Essa capacidade representou um marco significativo na pesquisa em Artificial intelligence, expandindo as aplicações potenciais dos modelos de linguagem de grande porte para além de interações exclusivamente textuais. O GPT-4 foi precedido pelo GPT-3.5 e sucedido pelo GPT-5, e foi integrado ao ChatGPT e, posteriormente, à API da OpenAI, com uma versão conhecida como GPT-4V especificamente projetada para processamento de imagens.
A OpenAI não divulgou publicamente detalhes técnicos sobre o GPT-4, como o tamanho preciso do modelo, a arquitetura ou o hardware de treinamento. O relatório técnico absteve-se explicitamente de especificar esses parâmetros, citando considerações competitivas e de segurança. Essa falta de transparência contrastou com modelos anteriores, como o GPT-3, para os quais mais informações estavam disponíveis. Apesar disso, as capacidades do GPT-4 foram demonstradas por meio de vários benchmarks e aplicações do mundo real, incluindo testes padronizados e respostas a perguntas médicas.
Histórico
A OpenAI introduziu o primeiro modelo GPT (GPT-1) em 2018, baseado na arquitetura Transformer (architecture), e treinado em um grande corpus de livros. No ano seguinte, o GPT-2 foi lançado, um modelo maior capaz de gerar texto coerente. Em 2020, o GPT-3 surgiu com mais de 100 vezes o número de parâmetros do GPT-2, avançando ainda mais o campo. O GPT-3 foi refinado no GPT-3.5, que alimentou o produto de Chatbot ChatGPT, lançado em novembro de 2022. O sucesso do ChatGPT destacou o potencial dos modelos de linguagem de grande porte, preparando o terreno para o desenvolvimento do GPT-4.
Capacidades
A versão padrão do GPT-4 apresentava uma janela de contexto de 8K, com uma versão especial da API suportando até 32K tokens. Como modelo multimodal, ele podia processar imagens e texto, permitindo que os usuários enviassem fotos e recebessem sugestões ou respostas com base no conteúdo visual. Essa capacidade representava um afastamento dos antecessores exclusivamente textuais e abriu novos caminhos para a interação.
O GPT-4 também podia ser instruído a interagir com interfaces externas. Por exemplo, o modelo podia ser instruído a envolver uma consulta dentro de tags <search></search> para realizar uma busca na web, com os resultados inseridos no prompt para informar as respostas. Isso permitia que o GPT-4 executasse tarefas além da previsão de texto, como usar APIs, gerar imagens e acessar páginas da web.
Um artigo de 2023 na Nature observou que programadores consideravam o GPT-4 útil para assistência de codificação, apesar de sua propensão a erros. Ele podia ajudar a encontrar erros em código existente e sugerir otimizações de desempenho. Um biofísico relatou que portar um programa de MATLAB para Python, que antes levava dias, foi reduzido a "cerca de uma hora" com a ajuda do GPT-4. Em um teste de 89 cenários de segurança, o GPT-4 produziu código vulnerável a ataques de injeção de SQL em 5% das vezes, uma melhora acentuada em relação ao GitHub Copilot de 2021, que tinha uma taxa de vulnerabilidade de 40%.
Em novembro de 2023, a OpenAI anunciou o GPT-4 Turbo e o GPT-4 Turbo com Visão, apresentando uma janela de contexto de 128K e preços significativamente mais baixos.
Aptidão em testes padronizados
Estudos debateram a confiabilidade do uso de chatbots em testes padronizados. Nos Testes de Pensamento Criativo de Torrance, o GPT-4 pontuou dentro do 1% superior em originalidade e fluência, com pontuações de flexibilidade variando do 93º ao 99º percentil.
Aplicações médicas
Pesquisadores da Microsoft testaram o GPT-4 em problemas médicos e descobriram que, sem a elaboração especializada de prompts, ele excedia a nota de aprovação no USMLE em mais de 20 pontos, superando modelos de propósito geral anteriores, como o GPT-3.5, e modelos ajustados em conhecimento médico, como o Med-PaLM. Apesar desse forte desempenho, o relatório alertou sobre "riscos significativos" no uso de modelos de linguagem de grande porte para aplicações médicas, incluindo recomendações potencialmente imprecisas e erros factuais alucinados. Em abril de 2023, a Microsoft e a Epic Systems anunciaram planos para fornecer aos profissionais de saúde sistemas alimentados por GPT-4 para responder a perguntas de pacientes e analisar registros médicos.
GPT-4o
Em 13 de maio de 2024, a OpenAI introduziu o GPT-4o ("o" de "omni"), um sucessor do GPT-4 que processa e gera saídas em modalidades de texto, áudio e imagem em tempo real. O GPT-4o exibiu tempos de resposta rápidos, comparáveis à conversa humana, melhor desempenho em idiomas não ingleses e compreensão aprimorada de visão e áudio. Ele também estava disponível para usuários do nível gratuito, ao contrário do GPT-4.
Limitações
Como seus antecessores, o GPT-4 é conhecido por alucinar, produzindo saídas que podem incluir informações não presentes em seus dados de treinamento ou que contradizem o prompt do usuário. Essa limitação representa desafios para aplicações que exigem alta confiabilidade.
O GPT-4 também carece de transparência em seus processos de tomada de decisão. Embora possa fornecer explicações para suas decisões, essas explicações são formadas posteriormente, e é impossível verificar se refletem o processo real. Em muitos casos, quando solicitado a explicar sua lógica, o GPT-4 fornece explicações que contradizem diretamente suas declarações anteriores.
Em 2023, pesquisadores testaram o GPT-4 contra o ConceptARC, um benchmark projetado para medir raciocínio abstrato, e descobriram que ele pontuou abaixo de 33% em todas as categorias, enquanto modelos especializados pontuaram 60% na maioria e humanos pontuaram pelo menos 91% em todas. Sam Bowman, não envolvido na pesquisa, sugeriu que os resultados podem não indicar falta de raciocínio abstrato, pois o teste é visual, enquanto o GPT-4 é um modelo de linguagem.
Viés
O GPT-4 foi treinado em duas etapas. Primeiro, foi treinado em grandes conjuntos de dados de texto da internet para prever o próximo token. Segundo, revisores humanos usaram aprendizado por reforço com feedback humano para ajustar o sistema, treinando-o a recusar prompts que vão contra a definição da OpenAI de comportamento prejudicial, como atividades ilegais, conselhos de automutilação ou solicitações de conteúdo gráfico. Pesquisadores da Microsoft sugeriram que o GPT-4 pode exibir vieses cognitivos, como viés de confirmação, ancoragem e negligência da taxa base.
Treinamento
A OpenAI não divulgou detalhes técnicos do treinamento do GPT-4. O relatório técnico absteve-se de especificar o tamanho do modelo, a arquitetura ou o hardware usado. Ele descreveu o treinamento usando aprendizado supervisionado em um grande conjunto de dados, seguido por aprendizado por reforço com feedback humano e de IA, mas omitiu detalhes sobre a construção do conjunto de dados, o poder computacional e os hiperparâmetros. O relatório citou "o cenário competitivo e as implicações de segurança de modelos em grande escala" como razões para essa decisão.
Sam Altman afirmou que o custo de treinar o GPT-4 foi superior a 100 milhões de dólares. Esse investimento substancial refletiu a escala do modelo e os recursos necessários para seu desenvolvimento.
Recepção e impacto
O lançamento do GPT-4 gerou interesse significativo na comunidade de IA e além, destacando o progresso rápido na IA generativa. Suas capacidades multimodais estabeleceram um novo padrão, influenciando modelos subsequentes, como o GPT-4o e o Gemini do Google. A integração do GPT-4 no Bing Chat da Microsoft em fevereiro de 2023 demonstrou aplicações práticas em busca e IA conversacional.
O desempenho do GPT-4 em testes padronizados e exames profissionais, como o USMLE, gerou discussões sobre o potencial da IA na educação e na saúde. No entanto, preocupações sobre viés, alucinação e transparência persistiram, levando a pedidos por um desenvolvimento de IA mais responsável.
Legado
O GPT-4 foi lançado no ChatGPT em março de 2023 e permaneceu disponível até 2025, quando foi removido. Ele também foi removido da API da OpenAI em 23 de outubro de 2026. Seu sucessor, o GPT-5, continuou a evolução da série GPT. A introdução do processamento de entrada multimodal pelo GPT-4 marcou um momento crucial na IA, demonstrando que modelos de linguagem de grande porte poderiam ir além do texto para entender e raciocinar sobre informações visuais, abrindo caminho para sistemas de IA mais versáteis e integrados.