Graphcore Limited es una empresa británica de semiconductores que desarrolla aceleradores para IA y aprendizaje automático. Su producto insignia, la Unidad de Procesamiento de Inteligencia (IPU), es un procesador masivamente paralelo diseñado para contener todo el modelo de aprendizaje automático dentro del chip, reduciendo la necesidad de movimiento constante de datos entre memoria y cómputo. La empresa fue fundada en 2016 y se convirtió en un actor notable en el espacio de hardware de IA antes de ser adquirida por SoftBank Group en 2024.
La arquitectura de la IPU difiere de las GPU tradicionales al usar un gran número de núcleos de procesamiento pequeños, llamados mosaicos, cada uno con su propia memoria local. Este diseño permite acceso de alta banda ancha y baja latencia a los parámetros y activaciones del modelo, lo cual es particularmente adecuado para cargas de trabajo de aprendizaje profundo como el entrenamiento e inferencia de modelos de lenguaje grandes. Graphcore también desarrolló la pila de software Poplar para soportar marcos de aprendizaje automático populares como TensorFlow y PyTorch.
Historia
Graphcore fue fundada en 2016 por Simon Knowles y Nigel Toon, ambos veteranos de la industria de semiconductores. La empresa atrajo rápidamente capital de riesgo, con una primera ronda de financiación liderada por Robert Bosch Venture Capital en otoño de 2016, y apoyo adicional de Samsung, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital y Pitango. En julio de 2017, una ronda Serie B liderada por Atomico fue seguida por 50 millones de dólares de Sequoia Capital. Para diciembre de 2018, Graphcore cerró una Serie D de 200 millones de dólares con una valoración de 1.700 millones de dólares, convirtiéndose en un unicornio, con inversores que incluyen a Microsoft, Samsung y Dell Technologies.
En noviembre de 2019, Graphcore anunció que sus tarjetas C2 IPU estaban disponibles para vista previa en Microsoft Azure, marcando un despliegue significativo en la nube. A principios de 2023, Meta Platforms adquirió el equipo de tecnología de redes de IA de Graphcore, aunque la empresa continuó sus operaciones principales. En julio de 2024, SoftBank Group acordó adquirir Graphcore por alrededor de 500 millones de dólares, un acuerdo que estaba bajo revisión por la unidad de seguridad de inversiones del Departamento de Negocios del Reino Unido.
Productos y Tecnología
El primer anuncio de producto de Graphcore llegó en 2016 con la Pila de Software Poplar, descrita como la primera cadena de herramientas de grafos para inteligencia de máquinas. En julio de 2017, la empresa presentó su primer chip, el Colossus GC2, un procesador de coma flotante de precisión mixta, masivamente paralelo, de 16 nm, que estuvo disponible en 2018. El GC2 se empaquetó como dos chips en una sola tarjeta PCI Express, llamada Graphcore C2 IPU, diseñada para realizar el mismo papel que una GPU en conjunto con marcos de aprendizaje automático estándar. El dispositivo depende de memoria de scratchpad para el rendimiento en lugar de jerarquías de caché tradicionales.
En julio de 2020, Graphcore introdujo su procesador de segunda generación, el GC200, construido usando el proceso FinFET de 7nm de TSMC. El GC200 es un circuito integrado de 59 mil millones de transistores, 823 milímetros cuadrados, con 1.472 núcleos computacionales y 900 Mbyte de memoria local. En 2022, Graphcore y TSMC presentaron el Bow IPU, un paquete 3D de un dado GC200 unido cara a cara con un dado de suministro de energía, permitiendo tasas de reloj más altas con voltaje de núcleo más bajo. La empresa también delineó un objetivo a largo plazo llamado la 'máquina buena', nombrada en honor a I.J. Good, que soportaría modelos de IA con más parámetros que las sinapsis del cerebro humano.
Detalles de Arquitectura
Tanto los chips GC2 como GC200 soportan 6 hilos por mosaico, produciendo 7.296 y 8.832 hilos respectivamente. La arquitectura usa paralelismo MIMD (instrucción múltiple, datos múltiples), con memoria local distribuida como la única forma de memoria en el dispositivo (excepto por registros). El chip GC2 más antiguo tiene 256 KiB por mosaico, mientras que el GC200 más nuevo tiene aproximadamente 630 KiB por mosaico, organizados en islas de 4 mosaicos, que a su vez se organizan en columnas; la latencia es mejor dentro de un mosaico. La IPU soporta IEEE FP16 con redondeo estocástico y FP32 de precisión simple con menor rendimiento. El código y los datos ejecutados localmente deben caber dentro de un mosaico, pero el paso de mensajes permite usar toda la memoria en chip o fuera de chip, y el software para IA hace esto transparente, incluido el soporte de PyTorch.
Posición en el Mercado e Impacto
Graphcore se posicionó como un desafiante de Nvidia en el mercado de aceleradores de IA, centrándose en una arquitectura única que difiere tanto de las GPU como de otros chips de IA como los de Cerebras o Groq. Su IPU estaba particularmente orientada al entrenamiento e inferencia de modelos de redes neuronales, con adoptantes tempranos que incluyen a Microsoft Azure y varias instituciones de investigación. La adquisición por SoftBank en 2024 se vio como un movimiento estratégico para reforzar las ambiciones de IA de SoftBank, aunque el acuerdo enfrentó escrutinio regulatorio en el Reino Unido. La tecnología de Graphcore sigue utilizándose en entornos de nube y empresariales, y su pila de software sigue siendo un área activa de desarrollo.
Véase también
- Arreglo de procesador masivamente paralelo