Graphcore Limited es una empresa británica de semiconductores que diseña aceleradores para cargas de trabajo de inteligencia artificial y aprendizaje automático. La empresa es más conocida por su Unidad de Procesamiento de Inteligencia (IPU, por sus siglas en inglés), un procesador masivamente paralelo que contiene todo el modelo de aprendizaje automático dentro del propio chip, a diferencia de las unidades de procesamiento gráfico (GPU) convencionales que dependen de memoria externa. La tecnología de Graphcore se dirige tanto al entrenamiento como a la inferencia de redes neuronales, con el objetivo de ofrecer una alternativa a los sistemas basados en GPU para la computación de IA.
Fundada en 2016, Graphcore creció rápidamente a través de múltiples rondas de financiación, alcanzando una valoración de 1.700 millones de dólares en diciembre de 2018. Los productos de la empresa, incluidos los procesadores Colossus GC2 y GC200, se han utilizado en entornos de nube y empresariales. En julio de 2024, SoftBank Group acordó adquirir Graphcore por aproximadamente 500 millones de dólares, un acuerdo que estaba bajo revisión regulatoria en el Reino Unido.
Historia
Graphcore fue fundada en 2016 por Simon Knowles y Nigel Toon, ambos veteranos de la industria de los semiconductores. Knowles había cofundado anteriormente Icera, una empresa de procesadores de banda base adquirida por NVIDIA, mientras que Toon había liderado varias startups de chips. La empresa se propuso diseñar procesadores específicamente para inteligencia de máquinas, un nicho que entonces estaba dominado por las GPU.
En el otoño de 2016, Graphcore aseguró su primera gran ronda de financiación, liderada por Robert Bosch Venture Capital. Otros inversores incluyeron a Samsung, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital y Pitango. Este respaldo temprano permitió a la empresa comenzar a desarrollar su arquitectura IPU y su pila de software.
Una ronda Serie B siguió en julio de 2017, liderada por Atomico, con financiación adicional de Sequoia Capital unos meses después. Para diciembre de 2018, Graphcore cerró una ronda Serie D de 200 millones de dólares con una valoración de 1.700 millones, convirtiéndose en un "unicornio" (una empresa privada valorada en más de mil millones de dólares). Los inversores en esta ronda incluyeron a Microsoft, Samsung y Dell Technologies.
En noviembre de 2019, Graphcore anunció que sus tarjetas IPU C2 estaban disponibles para vista previa en Microsoft Azure, marcando un despliegue significativo en la nube. La empresa continuó expandiendo su línea de productos y asociaciones, pero también enfrentó desafíos en un mercado competitivo dominado por NVIDIA.
A principios de 2023, Meta Platforms adquirió el equipo de tecnología de redes de IA de Graphcore, un movimiento que se consideró una desinversión estratégica. Los términos financieros no fueron revelados, pero permitieron a Graphcore centrarse en su negocio principal de procesadores.
En julio de 2024, SoftBank Group acordó adquirir Graphcore por alrededor de 500 millones de dólares. El acuerdo estaba bajo revisión por la unidad de seguridad de inversiones del Departamento de Negocios del Reino Unido, reflejando preocupaciones de seguridad nacional en el sector de semiconductores. Se esperaba que la adquisición proporcionara a Graphcore recursos adicionales para continuar sus esfuerzos de desarrollo.
Productos y Tecnología
La línea de productos principal de Graphcore se basa en la Unidad de Procesamiento de Inteligencia (IPU), un procesador diseñado desde cero para cargas de trabajo de IA. La arquitectura IPU difiere significativamente de las GPU: utiliza una matriz masivamente paralela de núcleos, cada uno con su propia memoria local, y todo el modelo de aprendizaje automático se almacena en el chip. Este diseño reduce la necesidad de movimiento de datos entre memoria y procesador, que es un cuello de botella importante en las arquitecturas tradicionales.
El primer chip IPU, llamado Colossus GC2, fue anunciado en julio de 2017. Era un procesador de punto flotante de precisión mixta, masivamente paralelo, de 16 nm, que estuvo disponible en 2018. El GC2 se empaquetaba con dos chips en una sola tarjeta PCI Express, conocida como Graphcore C2 IPU. Esta tarjeta estaba diseñada para desempeñar el mismo papel que una GPU en conjunción con marcos de aprendizaje automático estándar como TensorFlow. El dispositivo dependía de memoria scratchpad para su rendimiento en lugar de jerarquías de caché tradicionales.
En julio de 2020, Graphcore introdujo su procesador de segunda generación, el GC200, fabricado con el proceso de manufactura FinFET de 7nm de TSMC. El GC200 es un circuito integrado de 59 mil millones de transistores y 823 milímetros cuadrados, con 1.472 núcleos computacionales y 900 Mbytes de memoria local. En 2022, Graphcore y TSMC presentaron el Bow IPU, un paquete 3D que une un dado GC200 cara a cara con un dado de entrega de energía, permitiendo mayores tasas de reloj con voltajes de núcleo más bajos.
Tanto los chips GC2 como GC200 usan 6 hilos por baldosa, para un total de 7.296 y 8.832 hilos respectivamente. Emplean paralelismo MIMD (Múltiples Instrucciones, Múltiples Datos) y tienen memoria local distribuida como su única forma de memoria en el dispositivo, excepto por los registros. El chip GC2 más antiguo tiene 256 KiB por baldosa, mientras que el GC200 más nuevo tiene aproximadamente 630 KiB por baldosa, organizados en islas de 4 baldosas, que luego se organizan en columnas. La latencia es mejor dentro de una baldosa.
La IPU soporta IEEE FP16 con redondeo estocástico, así como FP32 de precisión simple con menor rendimiento. El código y los datos ejecutados localmente deben caber en una baldosa, pero con paso de mensajes, toda la memoria dentro o fuera del chip puede ser utilizada. El software para IA hace esto posible de manera transparente, por ejemplo, a través del soporte de PyTorch.
Pila de Software
En 2016, Graphcore anunció la primera cadena de herramientas de gráficos del mundo diseñada para inteligencia de máquinas, llamada Poplar Software Stack. Poplar es un kit de desarrollo de software completo que incluye un compilador de gráficos, un tiempo de ejecución y bibliotecas para construir y desplegar modelos de IA. Abstrae las complejidades del hardware IPU, permitiendo a los desarrolladores escribir código de alto nivel en marcos como TensorFlow y PyTorch.
El enfoque basado en gráficos de Poplar es adecuado para la arquitectura IPU, que en sí misma es un gráfico de baldosas de procesamiento. El compilador mapea el gráfico computacional de una red neuronal en las baldosas de la IPU, optimizando para el uso de memoria y la comunicación. El tiempo de ejecución gestiona la ejecución del gráfico en el hardware, incluyendo la programación y el movimiento de datos.
La pila de software también incluye PopART, una biblioteca para inferencia, y PopNN, una biblioteca para construir redes neuronales. Estas herramientas están diseñadas para ser interoperables con marcos de IA existentes, facilitando a los desarrolladores la adopción de la tecnología IPU.
Posición en el Mercado y Competencia
Graphcore opera en el campo altamente competitivo de aceleradores de IA, donde NVIDIA ha dominado históricamente con sus GPU. Otros competidores incluyen a AMD con su línea Instinct, Intel con sus procesadores Gaudi, y startups como Groq y SambaNova. La IPU de Graphcore se diferencia al enfocarse en computación en memoria y una arquitectura masivamente paralela, lo que puede ofrecer ventajas para ciertos tipos de modelos, particularmente aquellos con grandes huellas de memoria.
La empresa ha apuntado tanto a mercados de nube como de borde. Sus procesadores se han desplegado en centros de datos a través de asociaciones con proveedores de nube como Microsoft Azure y Oracle Cloud. Graphcore también ha trabajado con instituciones de investigación y empresas para acelerar cargas de trabajo de IA en áreas como procesamiento de lenguaje natural, visión por computadora y computación científica.
A pesar de sus innovaciones tecnológicas, Graphcore ha enfrentado desafíos para escalar su negocio. El mercado de aceleradores de IA es intensivo en capital, y la empresa ha luchado para competir con el ecosistema y la madurez de software de NVIDIA. La adquisición por SoftBank se ve como una forma de proporcionar estabilidad financiera y acceso a recursos más amplios.
Direcciones Futuras
Graphcore ha declarado su ambición de construir una "máquina buena", nombrada en honor a I.J. Good, un matemático británico que trabajó con Alan Turing. El objetivo es habilitar modelos de IA con más parámetros que las sinapsis del cerebro humano, lo que requeriría avances significativos tanto en hardware como en software. La empresa continúa desarrollando su arquitectura IPU, con planes para futuras generaciones que podrían ofrecer rendimiento y eficiencia aún mayores.
Se espera que la adquisición por SoftBank acelere estos esfuerzos. SoftBank tiene un historial de inversión en empresas de IA y semiconductores, incluida Arm Holdings, y podría proporcionar a Graphcore el capital necesario para expandir su manufactura y alcance global. La aprobación regulatoria del acuerdo aún está pendiente, pero si se completa, podría marcar un nuevo capítulo para el diseñador de chips británico.