O IBM Granite é uma série de modelos de linguagem de grande porte e modelos de fundação criados pela IBM. Anunciado em 7 de setembro de 2023, com um artigo inicial publicado quatro dias depois, os modelos foram inicialmente projetados para a plataforma de dados e IA generativa baseada em nuvem da IBM, Watsonx, juntamente com outros modelos. A IBM posteriormente abriu o código-fonte de algumas variantes focadas em código, disponibilizando-os gratuitamente sob uma licença permissiva.
Os modelos Granite são treinados em conjuntos de dados selecionados, provenientes da Internet, publicações acadêmicas, repositórios de código e documentos jurídicos e financeiros. A série abrange uma gama de tamanhos de parâmetros, de 3 bilhões a 34 bilhões, atendendo a diferentes necessidades de implantação.
Arquitetura do modelo de fundação
Um modelo de fundação é um modelo de IA treinado em dados amplos em escala, permitindo adaptação a uma ampla variedade de tarefas downstream. Os modelos IBM Granite são transformadores somente decodificadores, uma arquitetura comum para modelos de linguagem generativos que preveem o próximo token em uma sequência. Os primeiros modelos de fundação, Granite.13b.instruct e Granite.13b.chat, cada um tinha 13 bilhões de parâmetros, o que era menor do que muitos grandes modelos contemporâneos. Variantes posteriores expandiram a faixa de 3 bilhões a 34 bilhões de parâmetros, oferecendo flexibilidade para diferentes orçamentos computacionais e casos de uso.
A curadoria dos dados de treinamento enfatizou qualidade e diversidade, incorporando fontes como artigos acadêmicos, conjuntos de dados de código e domínios especializados, como jurídico e financeiro. Essa abordagem visou melhorar o desempenho em tarefas orientadas a empresas, um foco chave para as ofertas comerciais da IBM.
Lançamento e modelos de código aberto
Em 6 de maio de 2024, a IBM lançou o código-fonte de quatro variações dos Granite Code Models sob a licença Apache 2.0, uma licença de código aberto permissiva que permite uso livre, modificação e compartilhamento. Esses modelos foram disponibilizados no Hugging Face, uma plataforma popular para hospedagem de modelos de IA. De acordo com relatórios internos da IBM, o modelo Granite 8b superou o Llama 3 em vários benchmarks relacionados a código dentro de uma faixa de parâmetros semelhante, destacando seu desempenho competitivo em geração e compreensão de código.
O lançamento de código aberto fez parte de uma estratégia mais ampla para fomentar a adoção e colaboração da comunidade, contrastando com alguns modelos proprietários de outros fornecedores. A IBM posicionou o Granite como uma alternativa flexível para empresas que buscam soluções de IA personalizáveis.
Aplicações e ecossistema
Os modelos Granite são integrados à plataforma Watsonx da IBM, que fornece ferramentas para análise de dados, IA generativa e implantação de modelos. Os modelos são usados para tarefas como geração de código, sumarização de documentos e resposta a perguntas, particularmente em indústrias regulamentadas, como finanças e direito, onde privacidade de dados e conformidade são críticas. Ao oferecer tanto acesso de código aberto quanto baseado em nuvem, a IBM visou atender a uma ampla gama de clientes, de startups a grandes empresas.
O lançamento dos modelos de código aberto também permitiu que desenvolvedores terceirizados ajustassem e implantassem o Granite em sua própria infraestrutura, incluindo no Amazon Web Services e em outros provedores de nuvem. Essa abordagem de ecossistema espelhou tendências na comunidade de IA mais ampla, onde modelos abertos como LLaMA e Mistral AI ganharam força.
Desempenho e comparações
A IBM publicou benchmarks mostrando que os modelos Granite alcançam resultados competitivos em tarefas padrão de PNL e código. Por exemplo, o modelo Granite 8b supostamente superou o Llama 3 em benchmarks de código, apesar de ter um número semelhante de parâmetros. No entanto, a verificação independente dessas alegações é limitada, e o desempenho pode variar dependendo da tarefa específica e da metodologia de avaliação. Os modelos são projetados para serem eficientes, com variantes menores adequadas para implantação na borda e maiores para cargas de trabalho baseadas em nuvem.
Ver também
- Mistral AI, uma empresa que também fornece modelos de código aberto
- GPT
- LLaMA
- Gemini
Referências
(Nenhum link externo é incluído conforme o estilo do artigo.)