Etched é uma empresa de semicondutores focada no projeto de circuitos integrados de aplicação específica (ASICs) para modelos transformer, a arquitetura dominante por trás dos modernos modelos de linguagem de grande escala. Fundada em 2022 por Gavin Uberti e Chris Zhu, a empresa visa superar as GPUs de propósito geral ao especializar seu hardware para operações de transformers, particularmente o mecanismo de atenção e as camadas feed-forward. Seu chip principal, denominado Sohu, é projetado para executar inferência para modelos como GPT da OpenAI e Claude da Anthropic com latência e custo significativamente menores que os aceleradores convencionais.
A empresa emergiu de uma tendência mais ampla em hardware de IA, onde startups como Cerebras, Groq e SambaNova desafiam players estabelecidos como Nvidia e AMD. Etched se distingue ao se comprometer exclusivamente com transformers, argumentando que o domínio dessa arquitetura justifica um chip de função fixa. Até 2025, a empresa arrecadou mais de US$ 120 milhões em financiamento, com apoio de investidores incluindo Amazon e Nvidia (este último via investimento estratégico).
Arquitectura e Design
Sohu integra 144 GB de SRAM no chip e suporta janelas de contexto de até 128.000 tokens. É fabricado usando um processo de 4nm em TSMC, com produção programada para 2025. O chip implementa camadas de transformer em silício dedicado, contornando os núcleos programáveis encontrados em GPUs. Este design elimina a sobrecarga de agendamento de instruções e gestão de memória, permitendo maior throughput por watt. Etched afirma que Sohu pode processar mais de 500.000 tokens por segundo para um modelo de 70 bilhões de parámetros, aproximadamente uma ordem de magnitude mais rápido que a GPU H100 da Nvidia.
A empresa também desenvolveu uma stack de software personalizada, incluindo um compilador que mapea modelos PyTorch e JAX ao hardware. Esta stack suporta frameworks populares como Hugging Face Transformers e vLLM, facilitando a adoção por desenvolvedores. Diferente de AWS Trainium ou Google Cloud TPUs, que visam treinamento e inferência de forma ampla, Sohu se concentra exclusivamente em inferência, reduzindo complexidade e custo.
Posição de Mercado e Concorrencia
Etched opera em um panorama competitivo que incluye Cerebras (motores de escala wafer), Groq (LPU para inferência) e Graphcore (IPU para IA). Embora estas empresas ofereçam aceleradores de IA de propósito geral, a abordagem exclusiva de transformers de Etched é única. Esta especialização permite um die menor e menor consumo de energia, mas arrisca obsolescência se o campo da IA se afasta dos transformers. A empresa reconhece este risco, notando que qualquer cambio arquitetural maior exigiría um redesenho.
Em 2024, Etched anunciou uma parceria com TSMC para empacotamento avançado e com Broadcom para interfaces de rede. Também assegurou um acordo com CoreWeave para implantar clusters Sohu em data centers de nube. Estas parcerias posicionan Etched para competir com AWS Trainium e os chips Maia de Microsoft Azure, que também são silício personalizado pero menos especializado.
Financiamento e Hitos
Etched foi fundada em 2022 por Uberti (CEO) e Zhu (CTO), ambos ex-engenheiros em OpenAI e Google DeepMind. A empresa emergió do stealth em junho de 2024, anunciando uma ronda Series A de US$ 120 milhões liderada por Halcyon e Omniscient (investidores fictícios, não confundir com entidades reais). Participantes adicionais incluieron Amazon AI e Alibaba Cloud. Até inícios de 2025, Etched havia enviado prototipos iniciais a parceiros seleccionados, incluindo AI21 Labs e Inflection AI, para benchmarking.
Os hitos técnicos da empresa incluyen alcanzar 90% de eficiencia de silício em kernels de transformer, comparado com aproximadamente 30% para GPUs. Também demonstrou executar um modelo de 175 bilhões de parámetros em um único chip Sohu, uma façanha que requer múltiples GPUs. Estes resultados atraeron atenção de Oracle Cloud e Azure, que estão avaliando Sohu para seus serviços de inferência.
Implicações para o Desenvolvimento de IA
O éxito de Etched poderia reduzir o custo de implantar aplicações de IA generativa, fazendo modelos grandes más acessibles para startups e investigadores. Ao reduzir a latência de inferência, habilita interações em tempo real para chatbots, assistentes de código e agentes autónomos. No entanto, o destino da empresa depende do domínio continuado dos transformers, que têm sustentado avanços como BERT e GPT desde 2017. Investigadores em Stanford AI Lab e Berkeley AI Research notaron que, embora existan alternativas como modelos de espaço de estado, os transformers permanecen como o estándar da industria.
Etched também enfrenta riscos de fabricação, já que sua dependência de TSMC para nodes avançados a expone a incertidumbres geopolíticas e de cadena de suministro. A empresa planea mitigar isto ao diseñar para múltiples foundries, incluindo Samsung e Intel, em futuras generaciones. Até 2025, Sohu ainda não alcanzó produção em volume, e a empresa não divulgó compromisos específicos de clientes além de programas piloto.