A Decart é uma empresa de tecnologia especializada em infraestrutura de inteligência artificial. A organização desenvolve soluções de software e hardware projetadas para acelerar o treinamento e a inferência de modelos de aprendizado de máquina em larga escala, com foco particular em melhorar a eficiência computacional e reduzir o custo associado a cargas de trabalho de IA. A empresa opera no contexto mais amplo do boom da IA generativa, atendendo à crescente demanda por recursos computacionais especializados.
O trabalho da Decart se cruza com várias áreas-chave do desenvolvimento moderno de IA, incluindo a otimização de arquiteturas transformers e a implantação de modelos de linguagem de grande porte. A abordagem da empresa frequentemente envolve colaboração estreita com fornecedores de hardware para maximizar o desempenho de redes neurais em chips específicos, uma prática que se tornou cada vez mais crítica à medida que a escala dos modelos de IA continua a se expandir.
Fundação e Desenvolvimento Inicial
A Decart foi fundada em 2023 por Dean Leitersdorf e Moshe Shalom. A empresa surgiu do ecossistema do Berkeley AI Research, com Leitersdorf tendo estado anteriormente envolvido em pesquisa acadêmica. Os fundadores identificaram um gargalo crítico na indústria de IA: o custo computacional imenso de treinar e executar modelos de última geração. Seu foco inicial foi desenvolver uma plataforma que pudesse otimizar a execução de modelos em vários hardwares, incluindo GPUs da AMD, que eram frequentemente vistas como uma alternativa mais econômica às ofertas dominantes da Nvidia.
Dentro do seu primeiro ano, a Decart garantiu financiamento significativo de capital de risco. Em 2024, a empresa anunciou uma rodada de financiamento da Série A de US$ 32 milhões liderada pela Benchmark, uma proeminente firma de capital de risco do Vale do Silício. Esse investimento sinalizou forte confiança do mercado na tecnologia da Decart e em seu potencial para perturbar o cenário de infraestrutura de IA, que era então dominado por alguns grandes provedores de nuvem.
Tecnologia e Produtos Principais
O principal produto da Decart é um mecanismo de inferência e uma plataforma de orquestração projetados para executar modelos de IA com velocidade e eficiência excepcionais. A pilha de software da empresa é construída para ser agnóstica em relação ao hardware, permitindo otimizar o desempenho em uma variedade de aceleradores, incluindo chips AWS Trainium, TPUs do Google Cloud e aceleradores da Intel, além das GPUs da AMD. Essa flexibilidade é um diferencial-chave, pois permite que os clientes evitem o aprisionamento ao fornecedor e escolham o hardware mais econômico para suas necessidades específicas.
Uma conquista notável da Decart foi o desenvolvimento de um sistema capaz de executar um modelo de geração de imagens baseado em U-Net, como o Stable Diffusion, em velocidades significativamente mais rápidas do que as implementações típicas. A empresa relatou ter alcançado velocidades de inferência várias vezes mais rápidas do que as dos principais concorrentes, em parte por meio de técnicas avançadas como poda de modelos e otimizações de normalização em lote. Esse desempenho foi demonstrado em uma demonstração ao vivo que executou um modelo de texto para imagem em hardware AMD, mostrando o potencial para aplicações de IA interativas e em tempo real.
Posição de Mercado e Parcerias
A Decart se posiciona como uma desafiante dos provedores estabelecidos de nuvem de IA, como Oracle Cloud e Microsoft Azure. Em vez de construir data centers massivos e centralizados, a plataforma da Decart é projetada para agregar e utilizar recursos computacionais distribuídos, incluindo GPUs de nível consumidor potencialmente subutilizadas. Essa abordagem visa criar um mercado de computação mais eficiente e acessível, reduzindo a barreira de entrada para startups e pesquisadores de IA.
A empresa formou parcerias estratégicas com fabricantes de hardware para co-otimizar seu software com novos designs de chips. Uma colaboração notável é com a AMD, onde a Decart trabalhou para garantir que seu mecanismo de inferência aproveite totalmente os recursos da série Instinct de aceleradores da AMD. Essa parceria faz parte de uma tendência mais ampla da indústria em que empresas de software trabalham em estreita colaboração com designers de chips para fechar a lacuna de desempenho com o ecossistema CUDA da Nvidia.
Impacto e Direções Futuras
A ascensão da Decart reflete uma mudança mais ampla na indústria de IA em direção à eficiência e otimização de custos. À medida que o custo de treinar e executar modelos de IA generativa disparou, há uma pressão crescente para encontrar maneiras de fazer mais com menos. O foco da Decart na velocidade de inferência é particularmente relevante, pois os custos de inferência frequentemente dominam a despesa total de operar serviços de IA em escala.
A tecnologia da empresa tem implicações para o desenvolvimento de aplicações de inteligência artificial que exigem respostas em tempo real, como agentes interativos, jogos e sistemas autônomos. Ao tornar a inferência de alto desempenho mais acessível, a Decart visa acelerar a implantação de IA em vários setores. Em 2025, a empresa continua a expandir sua equipe de engenharia e desenvolver novos recursos, com o objetivo declarado de se tornar uma camada fundamental para a próxima geração de aplicações de IA.