Graphcore Limited é uma empresa britânica de semicondutores que desenvolve aceleradores para IA e aprendizado de máquina. Seu principal produto, a Unidade de Processamento de Inteligência (IPU), é um processador massivamente paralelo projetado para armazenar todo o modelo de aprendizado de máquina dentro do chip, reduzindo a necessidade de movimentação constante de dados entre memória e computação. A empresa foi fundada em 2016 e tornou-se um participante notável no espaço de hardware de IA antes de ser adquirida pela SoftBank Group em 2024.
A arquitetura da IPU difere das GPUs tradicionais por usar um grande número de núcleos de processamento pequenos, chamados de tilhas, cada um com sua própria memória local. Esse design permite acesso de alta largura de banda e baixa latência aos parâmetros e ativações do modelo, o que é particularmente adequado para cargas de trabalho de Deep learning como treinamento e inferência de Large language model. A Graphcore também desenvolveu a pilha de software Poplar para suportar frameworks populares de aprendizado de máquina como TensorFlow e PyTorch.
Histórico
A Graphcore foi fundada em 2016 por Simon Knowles e Nigel Toon, ambos veteranos da indústria de semicondutores. A empresa rapidamente atraiu capital de risco, com uma rodada inicial de financiamento liderada pela Robert Bosch Venture Capital no outono de 2016, além de apoio adicional da Samsung, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital e Pitango. Em julho de 2017, uma rodada da Série B liderada pela Atomico foi seguida de $50 milhões da Sequoia Capital. Em dezembro de 2018, a Graphcore fechou uma rodada da Série D de $200 milhões a uma avaliação de $1,7 bilhão, tornando-a uma unicórnio, com investidores incluindo Microsoft, Samsung e Dell Technologies.
Em novembro de 2019, a Graphcore anunciou que seus cartões C2 IPU estavam disponíveis para preview em escopo do Azure da Microsoft, representando uma implantação significativa em nuvem. No início de 2023, a Meta Platforms adquiriu a equipe de tecnologia de rede de AI da Graphcore, embora a empresa continuasse suas operações principais. Em julho de 2024, a SoftBank Group concordou em adquirir a Graphcore por cerca de $500 milhões, um negócio que esteve em revisão pela unidade de segurança de investimentos do Departamento de Negócios do Reino Unido.
Produtos e Tecnologia
O primeiro anúncio de produto da Graphcore veio em 2016 com a Pilha de Software Poplar, descrita como o primeiro ferramenta de cadeia para inteligência de máquina baseada em grá Divisão. Em julho de 2017, a empresa apresentou seu primeiro chip, o Colossus GC2 UMA, um processador de 16 nm massivamente paralelo e precisão mista que se tornou disponível em 2018. O GC2 foi embalado como dois chips em um único cartão PCI Express, chamado de Cartão Graphcore C2 IPU, projetado para desempenhar o mesmo papel que um GPU em combinação com frameworks de aprendizado de máquina. O dispositivo depende de memória de scratchpad para desempenho, e não de hierarquias tradicionais de cache.
Em julho de 2020, a Graphcore apresentou seu processador de segunda geração, o GC200, construído com o processo FinFET de 7nm da TSMC. O GC200 é um circuito integrado de 59 bilhões de transistores, 823 milímetros quadrados, com 1.472 núcleos computacionais e 900 Mbyte de memória local. Em 2022, a Graphcore e a TSMC apresentaram o formato Bow IPU, um pacote 3D onde um dado GC200 é unido face a face com um dado de alimentação-de-energia, permitindo taxas de relógio mais altas com menor voltagem de núcleo. A empresa também esboçou um objetivo de longo prazo chamado de 'Máquina do Bom Time', nomeado em homenagem a I.J. Good, que suportaria modelos de IA com mais parâmetros do que sinapses do cérebro humano.
Detalhes da Arquitetura
Ambos os chips GC2 e GC200 suportam 6 threads por tile, resultando em 7.296 e 8.832 threads respectivamente. A arquitetura usa paralelismo de MIMD (Multiple Instruction, Multiple Data), com memória local distribuída como única forma de memória no dispositivo (exceto registradores). O chip GC2 mais antigo tem 256 KiB por tile, enquanto o GC200 mais novo tem cerca de 630 KiB por tile, organizados em ilhas de 4 tiles, que por sua vez são organizados em colunas; a latência é melhor dentro de um tile. A IPU suporta FP16 IEEE com arredondamento estocástico e FP32 de precisão única a desempenho mais baixo. Código e dados executados localmente devem caber dentro de um tile, mas a passagem de mensagens permite o uso de toda a memória dentro ou fora do chip, e o aprendizado de máquina torna isso transparente, incluindo suporte a PyTorch.
Posição de Mercado e Impacto
A Graphcore posicionou-se como um desafio ao Nvidia no mercado de aceleradores de IA, focando em uma arquitetura única que difere tanto de GPUs quanto de outros chips de IA, como os da Cerebras ou Groq. Sua IPU foi particularmente voltada para treinamento e inferência de modelos de Neural network, com adoção inicial pelo Microsoft Azure e várias instituições de pesquisa. A aquisição pela em 2024 na 2024 foi vista como uma medida estratégica para reforçar as ambições de IA da SoftBank , embora o acordo tenha enfrentado escrutínio regulatório no Reino Unido. A tecnologia da Graphcore continua a ser usada em ambientes de nuvem e corporativos, e sua pilha de software permanece uma área ativa de desenvolvimento.
Veja Também
- acelerador AI
- arrocínio massivamente paralelo