Untether AI é uma empresa canadense de semicondutores que projeta chips de inferência de inteligência artificial energeticamente eficientes para aplicações de computação de borda. Fundada em 2019 e com sede em Toronto, a empresa desenvolve processadores otimizados para executar redes neurais treinadas com consumo mínimo de energia e latência, visando casos de uso como veículos autônomos, automação industrial e inferência em data centers em tempo real. A empresa surgiu de pesquisas na Universidade de Toronto e rapidamente se posicionou dentro do ecossistema mais amplo de hardware de inteligência artificial, competindo com outros fabricantes especializados de chips, como Groq e Graphcore, enquanto se concentra na implantação, em vez do treinamento, de modelos de IA.
A tecnologia central da empresa se concentra em uma nova arquitetura de memória que reduz o custo energético de mover dados entre elementos de processamento e memória, um gargalo na computação convencional de von Neumann. Em 2019, a Untether AI levantou US$ 19 milhões em uma rodada inicial liderada pela Radical Ventures e Draper Associates, e posteriormente garantiu US$ 175 milhões em financiamento da Série B em outubro de 2022, co-liderada pelo Conselho de Investimento do Plano de Pensões do Setor Público do Canadá e pelo Samsung Catalyst Fund, elevando o financiamento total para mais de US$ 200 milhões. A empresa lançou seu primeiro produto comercial, o speedAI240, em 2023, embora os volumes de produção mais amplos tenham aumentado gradualmente.
Fundação e Desenvolvimento Inicial
A Untether AI foi co-fundada por Arun Subramaniyan, que anteriormente liderou a engenharia de chips para data centers na Intel, e Martino Andreani, um arquiteto de sistemas com experiência na AMD. A dupla se conheceu por meio de uma colaboração de pesquisa na Universidade de Toronto, onde trabalharam sob o professor Andreas Moshovos em aceleradores de aprendizado profundo energeticamente eficientes. Seu conceito inicial, publicado em 2017, propunha mover a memória para o dispositivo de processamento para eliminar o acesso externo à DRAM para inferência.
Em 2020, a empresa anunciou uma parceria com a TSMC para fabricar seus chips usando um processo de 7 nanômetros, com silício tape-out no início de 2021. Em meados de 2022, a Untether AI empregava aproximadamente 120 pessoas em escritórios em Toronto e Ottawa, com centros de engenharia também planejados em San Jose. O crescimento inicial da empresa se beneficiou do apoio do governo canadense, incluindo uma contribuição de US$ 4 milhões do Fundo de Inovação Estratégica em 2021.
Arquitetura e Tecnologia
A principal inovação nos chips da Untether AI é sua abordagem de "computação na memória", que coloca unidades computacionais diretamente adjacentes aos conjuntos de memória SRAM no die. Esse arranjo elimina a necessidade de transportar dados por um barramento do sistema para cada operação, reduzindo substancialmente o consumo de energia em comparação com aceleradores convencionais. A arquitetura usa um modelo de execução baseado em fluxo de dados, onde pesos e ativações residem na memória local, e o cálculo de cada neurônio ocorre no local da memória.
O processador speedAI240 contém 256 núcleos de computação, cada um com 2 MB de SRAM, alcançando 2 peta-operações por segundo (POPS) em precisão inteira de 8 bits, consumindo cerca de 25 watts. Essa eficiência visa tarefas de inferência de borda que exigem baixa latência, como detecção de objetos em sistemas de direção autônoma ou triagem de defeitos em tempo real na manufatura. Ao contrário das GPUs da AMD ou Intel projetadas para treinar grandes modelos, o silício da Untether AI é otimizado para inferência de função fixa, utilizando técnicas como poda de modelos e quantização para maximizar a taxa de transferência.
Pilha de Software e Compatibilidade
A empresa fornece um kit de desenvolvimento de software chamado untether SDK, que compila modelos de frameworks TensorFlow e PyTorch em binários executáveis para seu hardware. A cadeia de ferramentas suporta camadas comuns em aprendizado profundo, incluindo convolução, pooling e redes residuais, e inclui um simulador para estimativa de desempenho. Em 2023, a Untether AI anunciou suporte para exportação ONNX, simplificando a integração com pipelines existentes de aprendizado de máquina.
Uma característica notável é seu suporte para computação ciente de esparsidade, onde o compilador detecta valores zero em tensores e pula seu processamento, melhorando tanto a velocidade quanto a eficiência energética. Para cenários de treinamento de borda, a empresa também oferece um modo de treinamento de precisão limitada que permite o ajuste fino de modelos no dispositivo, embora isso permaneça um recurso de pesquisa.
Posição de Mercado e Concorrência
A Untether AI compete no nicho de aceleradores de inferência de IA de borda, um mercado também atendido por empresas como Groq, que usa uma abordagem semelhante de memória no chip, mas visa cargas de trabalho maiores em data centers, e SambaNova, que se concentra em arquiteturas reconfiguráveis. Em contraste com AWS Trainium e Google Cloud TPUs, que escalam para data centers de hiperescala, a Untether AI enfatiza orçamentos de energia mais baixos para implantação descentralizada. A empresa se posiciona como um complemento às CPUs baseadas em Arm em sistemas embarcados.
Em 2023, a Untether AI fez parceria com a Samsung Electronics para co-desenvolver soluções de empacotamento para chiplets, potencialmente reduzindo custos para produção em alto volume. Analistas observam que a dependência da empresa em um processo de 7 nm da TSMC fornece uma relação competitiva de desempenho por watt, embora enfrente concorrência dos chips de inferência de IA em nuvem da Qualcomm e dos próximos processadores da Broadcom.
Aplicações e Casos de Uso
As principais aplicações-alvo para o hardware da Untether AI incluem veículos autônomos, onde sua baixa latência permite interpretação rápida de dados de sensores, e robótica, como os sistemas humanoides desenvolvidos pela Figure AI. Na manufatura, os chips são usados em sistemas de inspeção visual que exigem detecção de anomalias em tempo real. A empresa também visa imagens médicas, especificamente robôs cirúrgicos que precisam de processamento rápido de imagens, e sensoriamento remoto com dados de satélite.
No data center, a Untether AI oferece placas de aceleração para instâncias AWS e servidores locais, focando em inferência para grandes modelos de linguagem com energia reduzida por solicitação. Kits de implantação, introduzidos em 2024, incluem modelos pré-ajustados para tarefas comuns, como análise de sentimentos e rastreamento de objetos, usando frameworks como o GPT-2 da OpenAI como referência.
Desempenho e Benchmarks
Benchmarks independentes publicados no final de 2023 pela organização MLPerf mostraram o speedAI240 da Untether AI alcançando 75 quadros por segundo na tarefa de classificação ResNet-50 em precisão de 8 bits com 0,5 joules por quadro, superando o Nvidia Jetson Orin por um fator de três em eficiência energética. No entanto, em modelos maiores, como BERT, sua arquitetura de memória sequencial mostra taxa de transferência mais lenta devido à capacidade limitada no chip. A empresa aborda isso suportando memória LPDDR5 fora do chip, configurável até 64 GB, unindo cargas de trabalho de borda e servidor.
Comparado aos chips Movidius da Intel, o speedAI240 oferece TOPS de pico mais altos, mas a um custo maior, tornando-o adequado para aplicações premium, como caminhões autônomos. Um estudo de 2024 no Laboratório de Ciência da Computação e Inteligência Artificial do MIT citou o design da Untether AI como um exemplo líder de computação próxima à memória em produtos industriais.
Roteiro e Direções Futuras
Atualmente, a Untether AI está desenvolvendo sua arquitetura de segunda geração, codinome "Gemini", que visa suportar formatos de ponto flutuante de 16 bits para modelos emergentes baseados em transformadores. A empresa planeja amostrar o chip no final de 2025, com uma meta de 10 TOPS/W de eficiência, triplicando os números atuais. Um foco é aprimorar a cadeia de ferramentas para lidar com transformadores e atenção multi-cabeça eficientemente em dispositivos de borda.
A empresa também explora a integração de seus aceleradores com núcleos RISC-V para permitir SoCs totalmente programáveis, reduzindo a dependência de processadores de controle externos. Em 2024, anunciou uma colaboração de pesquisa com o laboratório Berkeley AI Research sobre agendamento ciente de energia para inferência distribuída. A longo prazo, a Untether AI visa se tornar um player-chave no mercado de borda de IA generativa, com projeções de envio de 1 milhão de unidades até 2027.
Liderança e Governança Corporativa
O CEO Arun Subramaniyan lidera uma equipe de gestão que inclui o Diretor de Tecnologia Martino Andreani e o VP de Engenharia Tom Doyle. O conselho inclui sócios de venture capital da Radical Ventures e da Samsung Research, fornecendo orientação estratégica. A empresa mantém um total de 180 funcionários em Toronto, Ottawa e San Jose, a partir do início de 2025. Conselheiros notáveis incluem Anima Anandkumar, uma figura proeminente em métodos de tensor, e Geoffrey Hinton serviu informalmente como conselheiro durante sua fundação.
As patentes da Untether AI, mais de 40 pedidos registrados, cobrem técnicas de memória misfit e escala dinâmica de voltagem, e a empresa licenciou um portfólio da Universidade de Toronto. A posição fiscal da empresa permaneceu estável durante a recessão de 2024, com financiamento da Série C de US$ 100 milhões anunciado em janeiro de 2025, liderado pela PSP Investments.
Impacto na Indústria e Recepção
Observadores da indústria veem a Untether AI como uma pioneira em trazer pesquisas sobre computação na memória para escala comercial, com o Stanford AI Lab hospedando um estudo de caso sobre suas decisões de design. Parcerias com players do ecossistema, como Arm e TomTom para sistemas de navegação, expandiram seu alcance. No entanto, alguns na comunidade de aprendizado de máquina questionam a viabilidade de longo prazo de chips específicos para borda, já que provedores de nuvem oferecem inferência mais barata via serviços Oracle Cloud e Azure. A Untether AI contra-argumenta citando aplicações críticas de latência e sensíveis à privacidade, onde os dados não podem sair do dispositivo.
A empresa também contribuiu para software de código aberto, lançando um backend de compilador que foi adotado na comunidade ONNX Runtime em 2024, embora a integração adicional permaneça em andamento. Sua trajetória de financiamento reflete o interesse sustentado dos investidores em silício especializado de IA, em meio a uma consolidação mais ampla do mercado no setor.