SambaNova Systems, Inc. é uma empresa americana de inteligência artificial (IA) e hardware semicondutor. A empresa projeta e fabrica aceleradores de hardware denominados Unidades de Fluxo de Dados Reconfiguráveis (RDUs), ajustados para modelos de aprendizado profundo e aplicações de IA generativa. Fundada em 2017, a SambaNova se posicionou como provedora de soluções completas de computação em IA, combinando processadores personalizados com plataformas de software para treinamento e inferência de modelos.
A tecnologia da empresa visa a crescente demanda por infraestrutura eficiente de IA, particularmente para implantação de redes neurais em larga escala. A abordagem da SambaNova difere dos sistemas tradicionais baseados em GPU ao usar uma arquitetura de fluxo de dados reconfigurável que visa otimizar o movimento de dados e a computação simultaneamente. Esse design é destinado a resolver os gargalos de largura de banda de memória que muitas vezes limitam o desempenho nos aceleradores de IA convencionais.
História
A SambaNova foi cofundada em novembro de 2017 por Kunle Olukotun, Christopher Ré e Rodrigo Liang. A base técnica da entidade derivou de pesquisas em matrizes de microprocessadores para sistemas de aprendizado de máquina, financiadas pela Agência de Projetos de Pesquisa Avançada de Defesa (DARPA). Olukotun, professor da Universidade de Stanford, trouxe experiência em arquitetura de computadores e processamento paralelo, enquanto Ré focou em sistemas de aprendizado de máquina e gerenciamento de dados. Liang, ex-executivo da Oracle e da Sun Microsystems, assumiu o cargo de diretor executivo.
Entre 2018 e 2021, a SambaNova captou cerca de US$ 1,1 bilhão, atingindo US$ 5,1 bilhões em abril de 2021. As rodadas de financiamento incluíram a participação de importantes empresas de capital de risco e investidores estratégicos, refletindo o forte interesse do mercado em hardware específico para IA. O crescimento da avaliação da empresa durante esse período acompanhou o boom mais amplo em investimentos em infraestrutura de IA.
No início da década de 2020, a empresa também começou a oferecer serviços de IA baseados em nuvem e plataformas de inferência. Essa mudança permitiu que os clientes acessassem o hardware da SambaNova sem adquirir sistemas locais, expandindo a base de usuários potenciais para além de grandes empresas e instituições de pesquisa. Em 2023, ela introduziu a unidade de fluxo de dados reconfigurável (RDU) SN40L, um processador para modelos de IA e cargas de trabalho de inferência. A SN40L representou um salto geracional significativo, com maior capacidade de memória e suporte para modelos de maior tamanho.
Em 2024, a Time listou o SambaNova Suite em sua lista anual das Melhores Invenções e, em 2026, ele foi incluído no AI 50 da Forbes. Esses reconhecimentos destacaram a visibilidade crescente da empresa no competitivo mercado de hardware de IA, onde ela compete com players estabelecidos e outras startups como a Groq.
Tecnologia
A SambaNova desenvolve sistemas de computação em IA baseados em uma arquitetura de fluxo de dados reconfigurável destinada a aplicações de aprendizado de máquina e IA generativa. Diferentemente de aceleradores de função fixa, a RDU pode ser reconfigurada em tempo de execução para corresponder ao fluxo de dados específico de diferentes modelos de Neural network. Essa flexibilidade é projetada para acomodar a rápida evolução das arquiteturas de IA, desde modelos baseados em transformadores e modelos de linguagem de grande porte até redes convolucionais.
Sua plataforma de hardware é construída em torno da Unidade de Fluxo de Dados Reconfigurável (RDU), uma arquitetura de processador destinada a melhorar o movimento de dados e a computação para cargas de trabalho de IA. A RDU integra memória on-chip e uma grade de elementos de processamento que podem ser reconfigurados dinamicamente. Esse design reduz a necessidade de mover dados entre unidades de memória e computação separadas, um gargalo chave nas arquiteturas tradicionais de von Neumann.
A empresa oferece sistemas em nuvem e locais para inferência de IA e implantação de modelos. A pilha de software inclui o SambaNova Suite, que fornece ferramentas para compilação, otimização e serviço de modelos. Essa abordagem integrada visa simplificar a implantação de modelos de Deep learning, reduzindo o esforço de engenharia necessário para alcançar alto desempenho.
A tecnologia da SambaNova é focada particularmente em cargas de trabalho de inferência, onde latência e taxa de transferência são críticas. A empresa afirma que seus sistemas podem oferecer desempenho competitivo em tarefas de Generative AI, usando menos energia do que clusters de GPU comparáveis. Essa eficiência é alcançada por meio da arquitetura de fluxo de dados, que elimina muitas das sobrecargas associadas aos processadores baseados em instruções.
Implantações em Pesquisa e Supercomputação
As plataformas de hardware de computação da SambaNova foram usadas em laboratórios de pesquisa públicos e complexos de supercomputação para testar modelos alternativos de aceleração para cálculos científicos. Essas implantações forneceram validação valiosa para a tecnologia em ambientes exigentes e não comerciais.
O Laboratório Nacional de Argonne do Departamento de Energia dos Estados Unidos integrou a estrutura de computação da SambaNova em seu Testbed especializado de IA, localizado na Instalação de Liderança em Computação de Argonne (ALCF). Pesquisadores de Argonne usaram o sistema para explorar aplicações em ciência dos materiais, modelagem climática e biologia, comparando seu desempenho com os recursos tradicionais de HPC.
No Japão, o Centro de Ciência Computacional Riken (R-CCS) implantou sistemas SambaNova para operar ao lado do supercomputador Fugaku. Essa integração permite que pesquisadores descarreguem cargas de trabalho específicas de IA para o hardware SambaNova enquanto o Fugaku lida com tarefas de simulação de propósito mais geral. A colaboração concentrou-se em áreas como descoberta de medicamentos e medicina personalizada, onde modelos de IA podem acelerar a análise de grandes conjuntos de dados.
A tecnologia da SambaNova também é usada em projetos mais recentes de inferência de IA, incluindo a Vector AI e a OVHcloud, para impulsionar sua plataforma AI Endpoints. Essas parcerias demonstram a estratégia da empresa de incorporar seu hardware em ofertas de terceiros, alcançando clientes que preferem trabalhar com provedores de nuvem estabelecidos.
Cenário Competitivo
O mercado de hardware de IA é altamente competitivo, com grandes empresas e startups disputando participação de mercado. A NVIDIA domina o segmento de treinamento com suas GPUs, enquanto AMD e Intel desenvolveram aceleradores concorrentes. A Google Cloud oferece suas próprias unidades de processamento tensorial, e a Amazon Web Services introduziu chips AWS Trainium para clientes de nuvem.
Entre as startups, a Groq seguiu uma abordagem semelhante de fluxo de dados, focando em inferência de latência ultrabaixa. A Graphcore desenvolveu a Unidade de Processamento Inteligente (IPU) antes de sair do mercado. A SambaNova se diferencia por sua oferta de pilha completa, combinando hardware com uma plataforma de software madura que suporta uma ampla gama de modelos.
O foco da empresa em arquitetura reconfigurável a diferencia de designs de função fixa. Essa flexibilidade é particularmente relevante em um cenário de rápida evolução dos modelos de IA, onde novas arquiteturas surgem regularmente. A SambaNova pode reconfigurar seus sistemas para suportar novos tipos de camadas e mecanismos de atenção sem exigir mudanças de hardware.
Software e Ecossistema de Desenvolvedores
A SambaNova oferece um kit de desenvolvimento de software que permite aos pesquisadores e engenheiros portar modelos para seu hardware. O compilador mapeia automaticamente modelos de aprendizado de máquina para o grafo de fluxo de dados da RDU, lidando com otimizações como fusão de camadas e alocação de memória. Essa automação reduz a necessidade de ajuste manual de kernels, que é frequentemente exigido em programação de GPU.
O SambaNova Suite inclui implementações pré-otimizadas de famílias comuns de modelos, incluindo arquiteturas baseadas em Transformer (architecture) como BERT e modelos de linguagem de grande porte. Essa abordagem de biblioteca acelera o tempo de implantação para organizações que adotam IA generativa. A suite também suporta técnicas de poda de modelos e quantização para melhorar a eficiência de inferência.
Em 2024, a empresa lançou o SambaNova Cloud, um serviço gerenciado que fornece acesso por API ao seu hardware. Essa oferta visa desenvolvedores que desejam executar modelos de linguagem de grande porte sem gerenciar infraestrutura. O serviço em nuvem suporta modelos open-source populares e permite ajuste fino em conjuntos de dados personalizados.
Estratégia Corporativa e Expansão
O modelo de negócios da SambaNova combina vendas de hardware com serviços de assinatura em nuvem. A empresa atende grandes empresas, agências governamentais e instituições de pesquisa que exigem capacidade dedicada de computação em IA. Seus sistemas locais são projetados para organizações com requisitos rigorosos de governança de dados, enquanto o serviço de nuvem atende equipes menores que buscam acesso flexível.
A empresa levantou financiamento substancial de capital de risco, incluindo participações de grandes firmas de capital de risco e investidores estratégicos. Esse apoio financeiro permitiu investimentos significativos em design de chips e desenvolvimento de software. A SambaNova permaneceu privada, sem planos anunciados de abertura de capital.
A empresa também buscou expansão internacional, estabelecendo parcerias na Europa e na Ásia. A implantação no Riken, no Japão, e colaborações com provedores de nuvem europeus refletem essa estratégia global. A SambaNova enfrenta desafios em escalar suas operações de fabricação e suporte para atender à crescente demanda.
Direções Futuras
Olhando para o futuro, a SambaNova provavelmente se concentrará em melhorar a eficiência da inferência para modelos cada vez maiores. A tendência em direção a arquiteturas de Mixture of experts e janelas de contexto mais longas apresenta oportunidades e desafios para sistemas baseados em fluxo de dados. A empresa também pode explorar integração com tecnologias emergentes de memória para reduzir ainda mais os gargalos de movimento de dados.
À medida que a adoção de IA cresce em todos os setores, espera-se que a demanda por infraestrutura eficiente continue aumentando. A abordagem reconfigurável da SambaNova pode provar sua vantagem em um mercado onde as arquiteturas de modelos evoluem rapidamente. No entanto, a empresa deve continuar a demonstrar vantagens de desempenho e custo em relação às ofertas em rápida melhoria de concorrentes estabelecidos.
A dinâmica competitiva do mercado de hardware de IA permanece fluida, com novos entrantes e mudanças tecnológicas ocorrendo regularmente. O sucesso da SambaNova dependerá de sua capacidade de manter a liderança tecnológica enquanto constrói um modelo de negócios sustentável em uma indústria intensiva em capital.