Graphcore Limited é uma empresa britânica de semicondutores que projeta aceleradores para cargas de trabalho de inteligência artificial e aprendizado de máquina. A empresa é mais conhecida por sua Unidade de Processamento de Inteligência (IPU), um processador maciçamente paralelo que mantém todo o modelo de aprendizado de máquina dentro do próprio chip, ao contrário das unidades de processamento gráfico (GPUs) convencionais que dependem de memória externa. A tecnologia da Graphcore visa tanto o treinamento quanto a inferência de redes neurais, com o objetivo de oferecer uma alternativa aos sistemas baseados em GPU para computação de IA.
Fundada em 2016, a Graphcore cresceu rapidamente por meio de várias rodadas de financiamento, atingindo uma avaliação de US$ 1,7 bilhão em dezembro de 2018. Os produtos da empresa, incluindo os processadores Colossus GC2 e GC200, foram usados em ambientes de nuvem e empresariais. Em julho de 2024, o SoftBank Group concordou em adquirir a Graphcore por aproximadamente US$ 500 milhões, um negócio que estava sob revisão regulatória no Reino Unido.
História
A Graphcore foi fundada em 2016 por Simon Knowles e Nigel Toon, ambos veteranos da indústria de semicondutores. Knowles havia cofundado anteriormente a Icera, uma empresa de processadores de banda base adquirida pela NVIDIA, enquanto Toon havia liderado várias startups de chips. A empresa se propôs a projetar processadores especificamente para inteligência de máquina, um nicho que era então dominado por GPUs.
No outono de 2016, a Graphcore garantiu sua primeira grande rodada de financiamento, liderada pela Robert Bosch Venture Capital. Outros investidores incluíram Samsung, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital e Pitango. Esse apoio inicial permitiu que a empresa começasse a desenvolver sua arquitetura IPU e sua pilha de software.
Uma rodada da Série B seguiu-se em julho de 2017, liderada pela Atomico, com financiamento adicional da Sequoia Capital alguns meses depois. Em dezembro de 2018, a Graphcore fechou uma rodada da Série D de US$ 200 milhões com uma avaliação de US$ 1,7 bilhão, tornando-a um "unicórnio" (uma empresa privada avaliada em mais de US$ 1 bilhão). Os investidores nesta rodada incluíram Microsoft, Samsung e Dell Technologies.
Em novembro de 2019, a Graphcore anunciou que suas placas C2 IPU estavam disponíveis para pré-visualização no Microsoft Azure, marcando uma implantação significativa em nuvem. A empresa continuou a expandir sua linha de produtos e parcerias, mas também enfrentou desafios em um mercado competitivo dominado pela NVIDIA.
No início de 2023, a Meta Platforms adquiriu a equipe de tecnologia de rede de IA da Graphcore, um movimento visto como uma desinvestimento estratégico. Os termos financeiros não foram divulgados, mas isso permitiu que a Graphcore se concentrasse em seu negócio principal de processadores.
Em julho de 2024, o SoftBank Group concordou em adquirir a Graphcore por cerca de US$ 500 milhões. O negócio estava sob revisão pela unidade de segurança de investimentos do Departamento de Negócios do Reino Unido, refletindo preocupações de segurança nacional no setor de semicondutores. Esperava-se que a aquisição fornecesse à Graphcore recursos adicionais para continuar seus esforços de desenvolvimento.
Produtos e Tecnologia
A principal linha de produtos da Graphcore é baseada na Unidade de Processamento de Inteligência (IPU), um processador projetado do zero para cargas de trabalho de IA. A arquitetura IPU difere significativamente das GPUs: ela usa uma matriz maciçamente paralela de núcleos, cada um com sua própria memória local, e todo o modelo de aprendizado de máquina é armazenado no chip. Esse design reduz a necessidade de movimento de dados entre memória e processador, que é um grande gargalo nas arquiteturas tradicionais.
O primeiro chip IPU, chamado Colossus GC2, foi anunciado em julho de 2017. Era um processador de ponto flutuante de precisão mista, maciçamente paralelo, de 16 nm, que ficou disponível em 2018. O GC2 foi empacotado com dois chips em um único cartão PCI Express, conhecido como Graphcore C2 IPU. Este cartão foi projetado para desempenhar o mesmo papel que uma GPU em conjunto com estruturas padrão de aprendizado de máquina, como TensorFlow. O dispositivo dependia de memória scratchpad para seu desempenho, em vez de hierarquias de cache tradicionais.
Em julho de 2020, a Graphcore introduziu seu processador de segunda geração, o GC200, construído usando o processo de fabricação FinFET de 7nm da TSMC. O GC200 é um circuito integrado de 59 bilhões de transistores, 823 milímetros quadrados, com 1.472 núcleos computacionais e 900 Mbytes de memória local. Em 2022, a Graphcore e a TSMC apresentaram o Bow IPU, um pacote 3D que une um die GC200 face a face com um die de fornecimento de energia, permitindo taxas de clock mais altas com tensões de núcleo mais baixas.
Tanto os chips GC2 quanto GC200 usam 6 threads por tile, para um total de 7.296 e 8.832 threads, respectivamente. Eles empregam paralelismo MIMD (Multiple Instruction, Multiple Data) e têm memória local distribuída como sua única forma de memória no dispositivo, exceto registradores. O chip GC2 mais antigo tem 256 KiB por tile, enquanto o GC200 mais novo tem cerca de 630 KiB por tile, organizados em ilhas de 4 tiles, que são então organizadas em colunas. A latência é melhor dentro de um tile.
A IPU suporta IEEE FP16 com arredondamento estocástico, bem como FP32 de precisão simples em desempenho inferior. Código e dados executados localmente devem caber em um tile, mas com passagem de mensagens, toda a memória no chip ou fora dele pode ser usada. O software para IA torna isso transparentemente possível, por exemplo, através do suporte ao PyTorch.
Pilha de Software
Em 2016, a Graphcore anunciou a primeira cadeia de ferramentas de grafo do mundo projetada para inteligência de máquina, chamada Poplar Software Stack. Poplar é um kit de desenvolvimento de software completo que inclui um compilador de grafo, um runtime e bibliotecas para construir e implantar modelos de IA. Ele abstrai as complexidades do hardware IPU, permitindo que os desenvolvedores escrevam código de alto nível em estruturas como TensorFlow e PyTorch.
A abordagem baseada em grafo da Poplar é bem adequada à arquitetura da IPU, que é em si um grafo de tiles de processamento. O compilador mapeia o grafo computacional de uma rede neural nos tiles da IPU, otimizando o uso de memória e a comunicação. O runtime gerencia a execução do grafo no hardware, incluindo agendamento e movimento de dados.
A pilha de software também inclui PopART, uma biblioteca para inferência, e PopNN, uma biblioteca para construir redes neurais. Essas ferramentas são projetadas para serem interoperáveis com estruturas de IA existentes, facilitando a adoção da tecnologia IPU pelos desenvolvedores.
Posição de Mercado e Concorrência
A Graphcore opera no campo altamente competitivo de aceleradores de IA, onde a NVIDIA historicamente dominou com suas GPUs. Outros concorrentes incluem AMD com sua linha Instinct, Intel com seus processadores Gaudi, e startups como Groq e SambaNova. A IPU da Graphcore se diferencia ao focar em computação em memória e uma arquitetura maciçamente paralela, o que pode oferecer vantagens para certos tipos de modelos, particularmente aqueles com grandes pegadas de memória.
A empresa tem como alvo tanto os mercados de nuvem quanto de borda. Seus processadores foram implantados em data centers por meio de parcerias com provedores de nuvem como Microsoft Azure e Oracle Cloud. A Graphcore também trabalhou com instituições de pesquisa e empresas para acelerar cargas de trabalho de IA em áreas como processamento de linguagem natural, visão computacional e computação científica.
Apesar de suas inovações tecnológicas, a Graphcore enfrentou desafios em escalar seu negócio. O mercado de aceleradores de IA é intensivo em capital, e a empresa lutou para competir com o ecossistema e a maturidade de software da NVIDIA. A aquisição pela SoftBank é vista como uma forma de proporcionar estabilidade financeira e acesso a recursos mais amplos.
Direções Futuras
A Graphcore declarou sua ambição de construir uma "boa máquina", nomeada em homenagem a I.J. Good, um matemático britânico que trabalhou com Alan Turing. O objetivo é permitir modelos de IA com mais parâmetros do que o cérebro humano tem sinapses, o que exigiria avanços significativos tanto em hardware quanto em software. A empresa continua a desenvolver sua arquitetura IPU, com planos para futuras gerações que poderiam oferecer desempenho e eficiência ainda maiores.
Espera-se que a aquisição pela SoftBank acelere esses esforços. A SoftBank tem um histórico de investir em empresas de IA e semicondutores, incluindo Arm Holdings, e poderia fornecer à Graphcore o capital necessário para expandir sua fabricação e alcance global. A aprovação regulatória do negócio ainda está pendente, mas, se concluída, poderia marcar um novo capítulo para o designer de chips britânico.