Cerebras Systems Inc., con sede en Sunnyvale, California, desarrolla semiconductores, supercomputadoras y software relacionado para impulsar aplicaciones de aprendizaje profundo de inteligencia artificial, como los motores de inferencia. Sus productos incluyen los semiconductores de motor a escala de oblea (WSE)-3, sus supercomputadoras CS-3 y sus API de "nube de inferencia de IA" y "nube de entrenamiento de IA", que permiten a los usuarios acceder a la potencia informática de la empresa sin comprar su hardware. La empresa también construye centros de datos utilizando sus procesadores y supercomputadoras para proporcionar servicios de computación en la nube directamente a los clientes.
Con una medida de 215 mm (8,5 pulgadas) cuadrados, los semiconductores WSE-3 de la empresa son actualmente los semiconductores de IA más grandes jamás construidos. Ocupan obleas de silicio completas y utilizan integración a escala de oblea y tejido conmutado. Esto reduce la latencia y los cuellos de botella de interconexión en comparación con los clústeres de GPU. Utilizan memoria estática de acceso aleatorio, a diferencia de la memoria dinámica de acceso aleatorio. Los semiconductores y sistemas informáticos de Cerebras son mucho más potentes que los de sus competidores; sin embargo, tienen desventajas debido a su gran tamaño, un consumo de energía de 25 kW y un costo de hasta 3 millones de dólares por nodo.
Historia
Cerebras Systems fue fundada en 2015 por Andrew Feldman, Gary Lauterbach, Michael James, Sean Lie y Jean-Philippe Fricker. Estos cinco fundadores trabajaron juntos en SeaMicro, que fue iniciada en 2007 por Feldman y Lauterbach y vendida a AMD en 2012 por 334 millones de dólares.
Los fundadores sabían que las GPU no eran los semiconductores óptimos para procesos de alto nivel. Sin embargo, tuvieron que diseñar métodos de enfriamiento únicos para evitar que un semiconductor "masivo" se quemara al consumir energía, software único para sortear los defectos de fabricación microscópicos habituales, y tuvieron que inventar una máquina que pudiera perforar 40 tornillos en la oblea simultáneamente sin que se agrietara.
La empresa tuvo dificultades para resolver el problema del empaquetado de circuitos integrados: adherir el silicio a una placa base, recibir energía y lidiar con la calefacción y el enfriamiento, así como con las tuberías para entregar y devolver datos. Estaba gastando 8 millones de dólares al mes y gastó 200 millones de dólares tratando de resolver el problema. En julio de 2019, después de un exhaustivo proceso de prueba y error, la empresa finalmente produjo un producto que funcionó.
En agosto de 2019, Cerebras anunció el WSE-1, sus semiconductores de motor a escala de oblea (WSE) de primera generación, y su sistema de supercomputación CS-1. El CS-1 es un dispositivo montado en rack de 19 pulgadas e incluye un único procesador principal WSE con 400.000 núcleos de procesamiento, 1,2 billones de transistores (doce conexiones Ethernet de 100 gigabits) y 18 gigabytes de memoria.
Los primeros clientes de la empresa fueron instituciones educativas y empresas de ciencias de la vida que estaban construyendo supercomputadoras para fines de descubrimiento de fármacos, dinámica de fluidos computacional, investigación genética y genómica, para predecir la respuesta a los fármacos y para la investigación de la COVID-19. Los primeros clientes incluyeron a GlaxoSmithKline, AstraZeneca, el Laboratorio Nacional de Tecnología Energética, el Laboratorio Nacional Lawrence Livermore, el Centro de Supercomputación de Pittsburgh y el Centro de Computación Paralela de Edimburgo.
En septiembre de 2020, la empresa abrió una oficina en Japón y se asoció con Tokyo Electron.
En abril de 2021, la empresa lanzó su sistema CS-2, basado en el motor a escala de oblea dos (WSE-2) de la empresa, que tiene 850.000 núcleos. El CS-2 se fabrica con el proceso de 7 nm de TSMC. Tiene 26 pulgadas (660 mm) de alto y cabe en un tercio de un rack de centro de datos estándar. El WSE-2 tiene 850.000 núcleos y 2,6 billones de transistores. Permite que un solo sistema admita modelos de IA con más de 120 billones de parámetros. El WSE-2 amplió la SRAM en chip a 40 gigabytes, el ancho de banda de memoria a 20 petabytes por segundo y el ancho de banda total del tejido a 220 petabits por segundo. Los clientes incluyeron a TotalEnergies, nference, el Centro Nacional de Aplicaciones de Supercomputación (NCSA) y el Centro de Supercomputación Leibniz.
En agosto de 2021, Cerebras anunció una asociación con Peptilogics para el desarrollo de IA para terapias peptídicas.
En junio de 2022, Cerebras estableció un récord por los modelos de IA más grandes jamás entrenados en un solo dispositivo: un solo sistema CS-2 con una oblea de Cerebras entrenó modelos con hasta 20 mil millones de parámetros. El sistema Cerebras CS-2 puede entrenar modelos de procesamiento de lenguaje natural (PLN) de miles de millones de parámetros, incluidos modelos GPT-3XL de 1.3 mil millones, así como GPT-J 6B, GPT-3 13B y GPT-NeoX 20B con una complejidad de software e infraestructura reducida.
En agosto de 2022, el Museo de Historia de la Computación en Mountain View, California, presentó una nueva exhibición con el WSE-2, denominada "El chip más grande del mundo".
También en agosto de 2022, Cerebras abrió una oficina en Bangalore, India.
En septiembre de 2022, Cerebras anunció que puede unir sus chips para crear el clúster de computación más grande jamás creado para la computación de IA. Un clúster a escala de oblea puede conectar hasta 192 sistemas de IA CS-2 en un clúster, mientras que un clúster de 16 sistemas de IA CS-2 puede crear un sistema informático con 13,6 millones de núcleos para el procesamiento de lenguaje natural. Utiliza paralelismo de datos para entrenar.
En octubre de 2022, los Laboratorios Nacionales Sandia de la Administración Nacional de Seguridad Nuclear comenzaron a utilizar el CS-2 en la computación de administración del arsenal nuclear, para determinar si las armas nucleares funcionarán como se espera.
En noviembre de 2022, Cerebras presentó la supercomputadora Andrómeda, que combina 16 chips WSE-2 en un solo clúster con 13,5 millones de núcleos optimizados para IA, entregando hasta 1 exaflop de potencia informática de IA, o al menos un quintillón (1018) de operaciones por segundo. Todo el sistema consume 500 kW, una cantidad drásticamente menor que la de las supercomputadoras aceleradas por GPU algo comparables.
En noviembre de 2022, Cerebras anunció una asociación con Cirrascale Cloud Services para proporcionar tiempo de cómputo de tarifa plana "pago por modelo" para su Cerebras AI Model Studio.
En noviembre de 2022, el Laboratorio Nacional de Tecnología Energética (NETL) alcanzó hitos utilizando productos de Cerebras.
En noviembre de 2022, el Laboratorio Nacional Argonne ganó el Premio Especial Gordon Bell 2022 por la investigación de la COVID-19 al utilizar el CS-2, así como productos de Nvidia y Hewlett-Packard, para transformar grandes modelos de lenguaje y analizar y predecir variantes del SARS-CoV-2.
En julio de 2023, G42 acordó pagar alrededor de 100 millones de dólares para comprar la primera de potencialmente nueve supercomputadoras de Cerebras. El primer sistema se entregó más tarde ese año, y G42 posteriormente se convirtió en un cliente importante, representando una parte significativa de los ingresos de Cerebras.
Tecnología y Productos
La tecnología central de Cerebras es el motor a escala de oblea, un semiconductor único que abarca una oblea de silicio completa. Este enfoque contrasta con la fabricación tradicional de chips, donde se cortan múltiples chips de una sola oblea. Al utilizar la oblea completa, Cerebras elimina la necesidad de interconexiones entre chips, que son un cuello de botella importante en los clústeres de GPU. El WSE-3, anunciado en 2024, es la tercera generación de este diseño, con 4 billones de transistores y 900.000 núcleos. Es fabricado por TSMC utilizando un proceso de 5 nm, y actualmente es el semiconductor de IA más grande jamás construido.
La supercomputadora CS-3 es el sistema que alberga el WSE-3. Está diseñada para ser un nodo de cómputo de IA completo, con enfriamiento y suministro de energía integrados. El CS-3 se puede utilizar tanto para entrenamiento como para inferencia, y admite modelos con hasta 24 billones de parámetros. Cerebras también ofrece servicios en la nube, lo que permite a los clientes acceder a su hardware a través de API sin comprar los sistemas directamente.
Los semiconductores de la empresa utilizan memoria estática de acceso aleatorio (SRAM) en lugar de memoria dinámica de acceso aleatorio (DRAM), lo que proporciona un mayor ancho de banda y una menor latencia. Esto es particularmente beneficioso para cargas de trabajo de IA que requieren acceso rápido a grandes cantidades de datos.
Aplicaciones y Casos de Uso
Los sistemas de Cerebras se utilizan en una variedad de aplicaciones de IA, incluido el procesamiento de lenguaje natural, el descubrimiento de fármacos y la investigación científica. Los primeros clientes incluyeron a GlaxoSmithKline y AstraZeneca, que utilizaron el CS-1 para el descubrimiento de fármacos y la genómica. El Laboratorio Nacional de Tecnología Energética utilizó los sistemas de Cerebras para la investigación energética, y el Laboratorio Nacional Lawrence Livermore para la administración del arsenal nuclear. El CS-2 también fue utilizado por el Laboratorio Nacional Argonne para la investigación de la COVID-19, que ganó el Premio Especial Gordon Bell 2022.
En el sector comercial, G42, una empresa de IA con sede en los Emiratos Árabes Unidos, ha sido un cliente importante, utilizando los sistemas de Cerebras para el entrenamiento de IA a gran escala. OpenAI y Amazon Web Services firmaron acuerdos en 2026 para utilizar el hardware de Cerebras, expandiendo aún más su base de clientes.
Posición en el Mercado y Competencia
Cerebras opera en dos mercados principales: hardware de IA y servicios de nube de IA. En el mercado de hardware, sus principales competidores son Nvidia, AMD, Intel y Broadcom. Nvidia domina el mercado de chips de IA con sus GPU, pero Cerebras se diferencia al ofrecer una solución de un solo chip que evita los cuellos de botella de interconexión de los sistemas multi-GPU. En el mercado de servicios en la nube, Cerebras compite con Amazon Web Services, Microsoft Azure, Google Cloud Platform, Oracle Corporation y CoreWeave.
A pesar de sus ventajas tecnológicas, Cerebras enfrenta desafíos debido al alto costo y los requisitos de energía de sus sistemas. Cada nodo puede costar hasta 3 millones de dólares y consumir 25 kW de energía, lo que limita su atractivo a un nicho de mercado de usuarios de computación de alto rendimiento.
Fabricación y Cadena de Suministro
Los semiconductores de Cerebras son fabricados por TSMC, que actualmente es la única empresa capaz de producir chips tan grandes. La integración a escala de oblea requiere procesos de fabricación especializados, y los nodos de 5 nm y 7 nm de TSMC se utilizan para el WSE-3 y el WSE-2, respectivamente. Esta dependencia de un único proveedor es una vulnerabilidad potencial, pero también garantiza un alto nivel de calidad y consistencia.
Desarrollos Recientes y Perspectivas Futuras
En 2024, Cerebras anunció el WSE-3 y el CS-3, que ofrecen mejoras significativas de rendimiento con respecto a las generaciones anteriores. La empresa también ha estado expandiendo sus ofertas en la nube, con centros de datos en los Estados Unidos y otras regiones. En 2026, Cerebras firmó acuerdos con OpenAI y Amazon Web Services, lo que indica una demanda creciente de su tecnología. La empresa continúa invirtiendo en investigación y desarrollo, centrándose en mejorar la integración a escala de oblea y reducir el consumo de energía.
A partir de 2025, Cerebras tiene oficinas en Sunnyvale, San Diego, Toronto y Bangalore, India. Los principales clientes de la empresa incluyen la Universidad de Inteligencia Artificial Mohamed bin Zayed, que representó el 62% de los ingresos de 2025, y G42, que representó el 24%. El éxito futuro de la empresa dependerá de su capacidad para escalar su fabricación y atraer una base de clientes más amplia más allá de su nicho actual.
Véase También
- inteligencia artificial
- aprendizaje automático
- aprendizaje profundo
- red neuronal
- gran modelo de lenguaje
- transformador
- OpenAI
- Anthropic
- Google DeepMind
- IA generativa
- AMD
- Intel
- TSMC
- Broadcom
- Amazon Web Services
- Azure
- Google Cloud
- Oracle Cloud
- Groq
- SambaNova
- Graphcore
- Nokia Bell Labs
- Xerox PARC
- MIT CSAIL
- Stanford AI Lab
- Universidad de Toronto
- Universidad Carnegie Mellon
- Berkeley AI Research
- Universidad de Oxford
- D-Wave
- Alibaba Cloud
- Waymo
- Tesla Autopilot
- optimizador Adam
- red residual
- U-Net
- RLHF
- aprendizaje curricular
- recorte de gradiente
- normalización por lotes
- normalización de capas
- abandono
- inicialización de pesos
- funciones de pérdida
- codificación posicional
- atención de múltiples cabezas
- atención cruzada
- codificador-decodificador
- secuencia a secuencia
- búsqueda de haz
- muestreo top-k
- muestreo top-p
- escalado de temperatura
- poda de modelos