Deci AI é uma empresa israelense de tecnologia especializada em aceleração de aprendizado profundo. Fundada em 2019, a empresa desenvolve ferramentas de software que otimizam modelos de inteligência artificial para implantação eficiente em diversas plataformas de hardware, incluindo dispositivos de borda e servidores em nuvem. A tecnologia central da Deci AI visa reduzir o custo computacional de redes neurais, mantendo ou melhorando sua precisão, abordando um gargalo crítico na adoção prática de sistemas de IA.
A empresa surgiu de pesquisas sobre busca automatizada de arquitetura neural e compressão de modelos, posicionando-se no campo mais amplo de operações de aprendizado de máquina. Os produtos da Deci AI têm como alvo organizações que implantam grandes modelos de linguagem, sistemas de visão computacional e outras cargas de trabalho de IA, oferecendo soluções que afirmam melhorar a velocidade de inferência e reduzir custos de infraestrutura. Em 2024, a empresa levantou financiamento significativo de capital de risco e estabeleceu parcerias com grandes provedores de nuvem e empresas de semicondutores.
Fundação e Financiamento
A Deci AI foi fundada em 2019 por Yonatan Geifman, Ran El-Yaniv e Jonathan Elster. Geifman, que atuou como diretor executivo, trabalhou anteriormente em pesquisa de IA na Intel. El-Yaniv, professor do Technion - Instituto de Tecnologia de Israel, trouxe experiência acadêmica em aprendizado de máquina e otimização de redes neurais. A empresa tem sede em Tel Aviv, Israel.
A startup levantou uma rodada inicial de semente de US$ 9,25 milhões em 2020, liderada pela Emerge e com participação da Square Peg Capital e outros investidores. Em 2021, a Deci AI garantiu uma rodada da Série A de US$ 21 milhões, elevando seu financiamento total para aproximadamente US$ 30 milhões. A Série A foi liderada pela Insight Partners, com apoio contínuo dos investidores existentes. Em 2023, a empresa fechou uma rodada da Série B de US$ 25 milhões, liderada pela AME Cloud Ventures, elevando o financiamento acumulado para mais de US$ 55 milhões. Esses números refletem o crescente interesse dos investidores em infraestrutura de IA e tecnologias de otimização de modelos.
Tecnologia Central: AutoNAS e Infery
A tecnologia fundamental da Deci AI é a AutoNAS (Busca Automatizada de Arquitetura Neural), um sistema proprietário que projeta automaticamente arquiteturas eficientes de redes neurais. A AutoNAS usa aprendizado por reforço e outras técnicas de otimização para explorar o espaço de possíveis designs de rede, equilibrando precisão e custo computacional. O sistema pode gerar arquiteturas personalizadas adaptadas a alvos de hardware específicos, como processadores ARM, chips Intel ou GPUs NVIDIA, embora a NVIDIA não esteja explicitamente listada entre os parceiros públicos da empresa.
O principal produto comercial construído sobre a AutoNAS é o Infery, um runtime de inferência e mecanismo de otimização. O Infery inclui um kit de ferramentas de otimização de modelos que aplica técnicas como poda, quantização e destilação de conhecimento para reduzir o tamanho e a latência dos modelos. O runtime suporta implantação em vários frameworks, incluindo TensorFlow e PyTorch, e integra-se a ambientes conteinerizados como Docker e Kubernetes. O Infery afirma fornecer aceleração de inferência de até 10x em dispositivos de borda e até 4x em servidores em nuvem, embora esses números dependam do modelo e hardware específicos.
Ofertas de Produtos e Casos de Uso
A suíte de produtos da Deci AI se estende além do Infery para incluir o DeciLint, uma ferramenta de análise de modelos que identifica ineficiências em grafos de redes neurais, e o DeciGrad, um módulo de otimização baseado em gradientes que ajusta modelos para hardware alvo. Essas ferramentas são projetadas para equipes de ciência de dados e aprendizado de máquina que precisam implantar modelos em ambientes de produção com restrições rigorosas de latência e custo.
Os principais casos de uso incluem aplicações de visão computacional, como detecção de objetos e segmentação de imagens, tarefas de processamento de linguagem natural, como classificação de texto e resposta a perguntas, e, mais recentemente, inferência de grandes modelos de linguagem. Por exemplo, a Deci AI demonstrou a capacidade de executar um modelo transformer de 175 bilhões de parâmetros em um único nó de servidor aplicando técnicas agressivas de compressão, embora tais alegações sejam baseadas em benchmarks internos e não tenham sido verificadas de forma independente. A empresa também oferece o Deci Cloud, uma plataforma gerenciada que permite aos clientes testar e avaliar modelos otimizados sem configurar sua própria infraestrutura.
Parcerias e Ecossistema
A Deci AI formou parcerias com várias grandes empresas de tecnologia para expandir seu alcance. Em 2022, a empresa anunciou uma colaboração com a Qualcomm para otimizar modelos de IA para as plataformas móveis Snapdragon da Qualcomm, visando inferência no dispositivo para smartphones e dispositivos IoT. Essa parceria visava habilitar recursos de IA em tempo real, como aprimoramento de imagem e reconhecimento de voz, com menor consumo de energia.
No espaço de nuvem, a Deci AI trabalhou com a Amazon Web Services e o Google Cloud para oferecer suas ferramentas de otimização como parte de seus marketplaces de IA. A empresa também fez parceria com a AMD em 2023 para apoiar os aceleradores Instinct da AMD, fornecendo bibliotecas de modelos otimizados para cargas de trabalho de data center. Além disso, a Deci AI se envolveu com a Samsung Electronics para aplicações de IA de borda em eletrônicos de consumo, embora detalhes específicos do produto não tenham sido divulgados.
Essas parcerias são estratégicas para a Deci AI porque fornecem acesso a otimizações específicas de hardware e canais de distribuição. Ao se alinhar com fabricantes de chips e provedores de nuvem, a empresa pode garantir que seu software funcione de forma eficiente no diversificado cenário de aceleradores de IA, desde AWS Trainium até sistemas Groq e SambaNova.
Cenário Competitivo
A Deci AI opera em um mercado competitivo que inclui tanto players estabelecidos quanto startups. Concorrentes diretos incluem a Graphcore, que desenvolve processadores especializados de IA, e a Groq, que se concentra em hardware de inferência ultra-rápida. No lado do software, empresas como SambaNova e Neural Magic oferecem soluções de otimização, embora a Neural Magic não esteja na lista de links fornecida. Além disso, grandes provedores de nuvem oferecem seus próprios serviços de otimização, como Amazon SageMaker e Azure Machine Learning, que podem competir com as ofertas da Deci AI.
A Deci AI se diferencia por meio de sua tecnologia AutoNAS, que automatiza o processo de busca de arquitetura em vez de depender apenas de compressão posterior. Essa abordagem pode gerar modelos inerentemente mais eficientes desde o início, em vez de reduzir arquiteturas existentes. A empresa também enfatiza a otimização ciente de hardware, adaptando modelos a chips específicos, o que é uma tendência crescente na indústria à medida que as cargas de trabalho de IA se movem para ambientes diversos de borda e data center.
Pesquisa e Contribuições de Código Aberto
A Deci AI mantém uma equipe de pesquisa ativa que publica artigos acadêmicos e contribui para a comunidade de IA em geral. Publicações notáveis incluem trabalhos sobre treinamento ciente de quantização e arquiteturas eficientes de transformer, apresentados em conferências como NeurIPS e ICML. A empresa também lançou ferramentas de código aberto, incluindo uma biblioteca para compressão de modelos que foi usada por desenvolvedores externos.
Em 2023, a Deci AI introduziu uma técnica chamada "super-resolução para redes neurais", que usa modelos generativos para reconstruir redes de alta precisão a partir de versões comprimidas. Essa pesquisa tem aplicações potenciais em IA generativa e pode melhorar a eficiência de modelos transformer. No entanto, essas contribuições fazem parte de um campo em rápida evolução, e seu impacto de longo prazo ainda está por ser visto.
Desafios e Direções Futuras
Como muitas empresas de infraestrutura de IA, a Deci AI enfrenta desafios relacionados ao ritmo acelerado do desenvolvimento de hardware e modelos. Novas arquiteturas de aceleradores, como os TPUs do Google DeepMind e os chips personalizados da Tesla, exigem adaptação contínua das ferramentas de otimização. Além disso, o surgimento de modelos de fundação com bilhões de parâmetros apresenta desafios de escala que podem limitar a aplicabilidade das técnicas tradicionais de compressão.
Olhando para o futuro, a Deci AI visa expandir seu suporte para cargas de trabalho de IA generativa, incluindo geração de texto e modelos multimodais. A empresa também está explorando integração com o Microsoft Azure e o Oracle Cloud para ampliar seu alcance em nuvem. Em 2024, a Deci AI não divulgou planos para uma oferta pública inicial, mas sua trajetória de financiamento sugere crescimento contínuo no mercado de otimização de IA.
Conclusão
A Deci AI se estabeleceu como um player notável no espaço de aceleração de aprendizado profundo, oferecendo ferramentas de software que melhoram a eficiência de modelos de IA em plataformas de hardware. Com sua tecnologia AutoNAS e o runtime Infery, a empresa atende a necessidades críticas de organizações que implantam IA em escala. Embora a concorrência seja intensa, o foco da Deci AI em busca automatizada de arquitetura e otimização ciente de hardware fornece uma proposta de valor distinta. O sucesso futuro da empresa dependerá de sua capacidade de acompanhar a evolução dos modelos e hardwares de IA, bem como de sua capacidade de converter inovações técnicas em adoção comercial.