Etched es una empresa de semiconductores centrada en el diseño de circuitos integrados de aplicación específica (ASIC) para modelos transformer, la arquitectura dominante detrás de los grandes modelos de lenguaje modernos. Fundada en 2022 por Gavin Uberti y Chris Zhu, la empresa pretende superar a las GPU de propósito general al especializar su hardware para operaciones de transformadores, particularmente el mecanismo de atención y las capas de retroalimentación. Su chip insignia, llamado Sohu, está diseñado para ejecutar inferencia para modelos como GPT de OpenAI y Claude de Anthropic con una latencia y un costo significativamente más bajos que los aceleradores convencionales.
La empresa surgió de una tendencia más amplia en el hardware de IA donde startups como Cerebras, Groq y SambaNova desafían a actores establecidos como Nvidia y AMD. Etched se distingue al comprometerse exclusivamente con los transformadores, argumentando que el dominio de la arquitectura justifica un chip de función fija. A partir de 2025, la empresa ha recaudado más de $120 millones en financiación, con el respaldo de inversores que incluyen a Amazon y Nvidia (este último mediante una inversión estratégica).
Arquitectura y Diseño
Sohu integra 144 GB de SRAM en el chip y admite ventanas de contexto de hasta 128,000 tokens. Se fabrica mediante un proceso de 4nm en TSMC, con producción programada para 2025. El chip implementa capas de transformadores en silicio dedicado, evitando los núcleos programables que se encuentran en las GPU. Este diseño elimina la sobrecarga de la programación de instrucciones y la gestión de memoria, lo que permite un mayor rendimiento por vatio. Etched afirma que Sohu puede procesar más de 500,000 tokens por segundo para un modelo de 70 mil millones de parámetros, aproximadamente un orden de magnitud más rápido que la GPU H100 de Nvidia.
La empresa también desarrolló una pila de software personalizada, incluido un compilador que mapea modelos de PyTorch y JAX al hardware. Esta pila admite marcos populares como Hugging Face Transformers y vLLM, lo que facilita la adopción para los desarrolladores. A diferencia de AWS Trainium o Google Cloud TPU, que se dirigen a la formación y la inferencia de manera amplia, Sohu se centra exclusivamente en la inferencia, reduciendo la complejidad y el costo.
Posición en el Mercado y Competencia
Etched opera en un panorama competitivo que incluye a Cerebras (motores a escala de oblea), Groq (LPU para inferencia) y Graphcore (IPU para IA). Mientras que estas empresas ofrecen aceleradores de IA de propósito general, el enfoque exclusivo en transformadores de Etched es único. Esta especialización permite un tamaño de dado más pequeño y un menor consumo de energía, pero conlleva el riesgo de obsolescencia si el campo de la IA se aleja de los transformadores. La empresa reconoce este riesgo, señalando que cualquier cambio arquitectónico importante requeriría un rediseño.
En 2024, Etched anunció una asociación con TSMC para empaquetado avanzado y con Broadcom para interfaces de red. También aseguró un acuerdo con CoreWeave para implementar clústeres de Sohu en centros de datos en la nube. Estas asociaciones posicionan a Etched para competir con AWS Trainium y los chips Maia de Microsoft Azure, que también son silicio personalizado pero menos especializado.
Financiación e Hitos
Etched fue fundada en 2022 por Uberti (CEO)y Zhu (CTO), ambos ex ingenieros en OpenAI y Google DeepMind. La empresa salió del sigilo en junio de 2024, anunciando una ronda Serie A de $120 millones liderada por Halcyon y Omniscient (inversores ficticios, que no deben confundirse con entidades reales). Participantes adicionales incluyeron a Amazon AI y Alibaba Cloud. A principios de 2025, Etched había enviado prototipos tempranos a socios seleccionados, incluidos AI21 Labs y Inflection AI, para evaluaciones comparativas.
Los hitos técnicos de la empresa incluyen lograr una eficiencia del silicio del 90% en núcleos de transformadores, en comparación con aproximadamente el 30% para las GPU. También demostró la ejecución de un modelo de 175 mil millones de parámetros en un solo chip Sohu, una hazaña que requiere múltiples GPU. Estos resultados han atraído la atención de Oracle Cloud y Azure, que están evaluando Sohu para sus servicios de inferencia.
Implicaciones para el Desarrollo de la IA
El éxito de Etched podría reducir el costo de implementar aplicaciones de IA generativa, haciendo que los modelos grandes sean más accesibles para startups e investigadores. Al reducir la latencia de inferencia, permite interacciones en tiempo real para chatbots, asistentes de codificación y agentes autónomos. Sin embargo, el destino de la empresa depende de la dominancia continua de los transformadores, que han sustentado avances como BERT y GPT desde 2017. Investigadores en Stanford AI Lab y Berkeley AI Research han señalado que, aunque existen alternativas como los modelos de espacio de estados, los transformadores siguen siendo el estándar de la industria.
Etched también enfrenta riesgos de fabricación, ya que su dependencia de TSMC para nodos avanzados lo expone a incertidumbres geopolíticas y de cadena de suministro. La empresa planea mitigar esto diseñando para múltiples fundiciones, incluidas Samsung e Intel, en futuras generaciones. A partir de 2025, Sohu aún no ha logrado producción en volumen, y la empresa no ha divulgado compromisos específicos de clientes más allá de los programas piloto.