Untether AI es una empresa canadiense de semiconductores que diseña chips de inferencia de inteligencia artificial energéticamente eficientes para aplicaciones de computación en el borde. Fundada en 2019 y con sede en Toronto, la empresa desarrolla procesadores optimizados para ejecutar redes neuronales entrenadas con un consumo mínimo de energía y latencia, dirigidos a casos de uso como vehículos autónomos, automatización industrial e inferencia en tiempo real en centros de datos. La firma surgió de la investigación en la Universidad de Toronto y se posicionó rápidamente dentro del ecosistema más amplio de hardware de inteligencia artificial, compitiendo con otros fabricantes de chips especializados como Groq y Graphcore mientras se centra en el despliegue, no en el entrenamiento, de modelos de IA.
La tecnología central de la empresa se basa en una arquitectura de memoria novedosa que reduce el costo energético de mover datos entre elementos de procesamiento y memoria, un cuello de botella en la computación convencional de Von Neumann. En 2020, Untether AI recaudó 19 millones de dólares en una ronda semilla liderada por Radical Ventures y Draper Associates, y posteriormente aseguró 175 millones de dólares en financiamiento Serie B en octubre de 2022, coliderada por la Junta de Inversiones del Plan de Pensiones del Sector Público de Canadá y el Samsung Catalyst Fund, elevando el financiamiento total a más de 200 millones. La empresa lanzó su primer producto comercial, el speedAI240, en 2023, aunque los volúmenes de producción más amplios aumentaron gradualmente.
Fundación y desarrollo temprano
Untether AI fue co-fundada por Arun Subramaniyan, quien anteriormente lideró la ingeniería de chips de centros de datos en Intel, y Martino Andreani, arquitecto de sistemas con experiencia previa en AMD. Ambos se conocieron a través de una colaboración de investigación en la Universidad de Toronto, donde trabajaron bajo el profesor Andreas Moshovos en aceleradores de aprendizaje profundo energéticamente eficientes. Su concepto inicial, publicado en 2017, proponía integrar memoria en el dispositivo de procesamiento para eliminar el acceso a DRAM externa durante la inferencia.
En 2020, la empresa anunció una alianza con TSMC para fabricar su chips con un proceso de 7 nanómetros, con silicio diseñado en masa a inicios de 2020. Para mediados de 2022, Untether AI empleaba aproximadamente 120 personas en oficinas de Toronto y Ottawa, con planes de otros centros de ingeniería en San José. El crecimiento inicial de la empresa fue respaldado por el gobierno canadiense, incluida una aportación de 4 millones del Fondo de Innovación Estratégica en 2021.
Arquitectura y Tecnología
La innovación clave en los chips de Untether AI es su enfoque de "computación en la memoria", que coloca unidades de computación directamente adyacentes a las matrices de memoria SRAM de la placa. Este diseño elimina la necesidad de transportar datos por un bus del sistema para cada operación, lo que reduce sustancialmente el consumo energético en comparación con aceleradores convencionales. La arquitectura emplea un modelo de ejecución de flujo de datos donde los pesos y las activaciones residen en la memoria local, y el cálculo de cada neurona ocurre en el punto de memoria.
El procesador speedAI240 contiene 256 núcleos de cálculo, cada uno con decenas de SRAM de 2 MB, alcanzando una capacidad de 2 peta-operaciones por segundo (POPS) a una precisión entera de 8 bits mientras consume alrededor de 20 vatios. Esta eficiencia está destinada a tareas de inferencia en el borde que exigen baja latencia, como detectar objetos en sistemas de conducción autónoma o la verificación de defectos en tiempos reales en fabricación. En contraste con las GPUs de AMD o Intel diseñadas para entrenar modelos grandes, el silicio de Untether AI está optimizado para funciones fijas de inferencia, aprovechando técnicas como podación y cuantificación para maximizar el rendimiento.
Pila de Software y Compatibilidad
La empresa ofrece un kit de desarrollo de software llamado untether SDK, que compila modelos de frameworks de TensorFlow y PyTorch en binarios ejecutables para su hardware. La herramienta de desarrollo soporta capas comunes en aprendizaje profundo, incluidas la convolución, la conglomeración, refrecetas residuales, y la agrupación, incluye un simulador para estimar performance. En 2023, Untether AI anunció soporte para exportar a ONDX, facilitando la integración con el entorno de aprendizaje automático existentes.
Una característica destacable es su soporte para computación consciente de sparsity, donde el compilador detecta valores cero en los tensores y evita su juzgamiento, mejorar tanto la velocidad y la energía eficiencia. Para los escenarios de formación en el entorno junto al entorno, la empresa también ofrece un modo de entrenamiento de precisión lengths que permite ajustar modelos en el dispositivo, aunque este sigue siendo una característica experimental.
Posición en el Mercado y Competición
Untether AI compete en el nicho de aceleradores de inferencia de borde, un mercado donde también participan compañías como Groq, que emplea un enfoque de memoria en el chip similar pero destinado a cargas de trabajo de mayor escala en centros desarrollados, y SambaNova, que optimiza arquitecturas reconfigurables. En contraste a AWS Trainium y TPUs de Google Cloud, que escalan en centros de alto escalado, Untether AI enfatiza presupuestos de energía menores para despliegues descentralizados. La empresa se posiciona como un complemento a las CPUs Arch en sistemas embebidos.
En 2023, Untether AI colaboró con Samsung Electronics para desarrollar conjuntamente soluciones de empaquetado para chiplets, posiblemente reduciendo los costos de producción a gran volumen. Los analistas señalan que la dependencia de un proceso de ñ de 7 nm de TSMC ofrece una ratio de ventaja competitiva con energía, aunque enfrenta la competencia de los chips de inferencia de Qualcomm para la nube y próximos procesadores de Broadcom.
Aplicaciones y Casos de Uso
Los principales objetivos de uso para el hardware de Untether AI abarcan vehículos autónomos, donde la baja latencia de sus chips permite una interpretación rápida de los señores de los sensores, y robótica, como los sistemas humanoide diseñados por Figure AI. En la fabricación, los chipseneradoras sonentregadas sistemas de inspección automática de defectos en tiempo. La compañía también se toca en en imágenes de salud, precisamente robots quirúrgicos cirugía integrada que necesitan un procesamiento de imágenes de urgencia, asícomo en telemención de imágenes satelitales.
En el centro de datos, Untether AI ofrece tarjetas de aceleración para instancias de AWS y servidores en emplazamiento, dirigidas a la inferencia de modelos de lenguaje largos con una tempestad de energía por petición inferior. Los kits de despliegue, presentados en 2020, incluyen modelos parametrados para las tareas más frecuentes como la clasificación de tono de orto y el rastreo de objetos, con marcos de trabajo como la versiónGPT-2 de OpenAI.
Desempeño y Benchmarks
Análisis independientes publicados a fines de 2023 por la organización MLPerf mostraron que el speedAI240 de Untether AI alcanzaba una velocidad de 75 frescuencias por segundo en honestidad la clasificación ResNet-50 a datos de presión de 8-bits con 0.7 julios por vex en la imagen, superando por un factor de tres la eficiencia energética de la Jetson Orin de NVIDIA. Sin embargo, en modelos más grandes como el de BERT, su arquitectura de memoria en serie muestra un Rendimiento mas bajo debido a la memoria en el chip limitada en on-chip. La empresa aborda esta limitación mediante soporte para memoria LPDDR5 excha interna y externa, configurable hasta 64 GB, facilitando así el puente entre la periferia y el centro de trabajo.
En comparación con los chips de Intel Movidius, el speedAI240 ofrece un mayor de RdMs máxima (TOPS), pero a un costo mayor, lo que resulta su adecuado para aplicaciones premium, como camiones autónomos. Un estudio de 2023 en el MIT CSail cita el diseño de Untether AI como un ejemplo destacado de computación cercana a la memoria en productos industriales.
Hoja de Ruta y Futuro
Actualmente, la empresa está desarrollando su segunda generación de arquitectura, genéricamente denominada en clave "Gemino", que busca admitir formatos de punto flotante de 16 bits para los modelos emergentes basados en transformadores de (transformadores). Tiene previsto iniciar la generación de muestras a finales de 2025, con un objetivo de 10 TOPS/W de eficiencia energética, lo quedría superar los valores actuales. Adelante de la hoja de ruta se focaliza en mejorar el entorno técnico para manejar de forma eficiente
transformadores y atención de múltiples cabezas en los dispositivos ya mencionados.
Untether AI también está considerando integrar sus aceleradores con núcleos para RISC-V para habilitar SoC requicios completamente programables, para disminuir la dependencia de procesadores de control externos. En 2020, anunció ha establecido un proyecto de investigación en colaboración con de Berkeley AI Research relativo a la planificación de inferencias distribuidas con consideración energética. A largo plazo, pretende trabajarse como uno de los jugadores clave en el área de IA generativa aplicada a dispositivos periféricos y de borde, con dolores sobre el posible envío de 1 millón de unidades para 2027.
Liderazgo y Gobernanza
El CEO, Arun Subramaniyan, dirige un equipo directivo que incluye a Martino Andreani como Director Técnico y a Tom Doyle como vicepresidente de Ingeniería. El directorio incluye socios de empresas de capital de riesgo como Radical Ventures and ratvas de Samsung Research, que proporcionan una guía de visión estratégica. La compañía tiene un total de 180 empleados distribuidos en Toronto, Ottawa y San José, al final de 2025. Entre asesores destacados de la firma figuran Anima Howell, una figura destacada en técnicas de tensor, y Geoffrey H forinton, que brindó asesoramiento informal durante su fundación.
El patrimonio de patentes de Untether AI, con más de 40 solicitudes emitidas, protege técnicas de memoria y tensión de alimentación dinámica, y tiene ciertos licenses adquiridos de la Universidad de Toronto. La firma mantuvo una posición financiera estable durante el receso de 2020, con financiamiento de la Serie C de 100 millones de dólares anunciado en enero de 2025, que dirigió PSP Investments.
Impacto en la Industria and Recepción
Observadores del sector ven a Prahant AI como un pionero en llevar la investigación sobre la memoria de "en la memoria" a escala comercial, con un laboratorio que recibió de Stanford AI Lab en un lu motivo un análisis práctico sobre sus decisiones de diseño. Las alianzas con los integrantes del ecosistema como Arm y TomTom para sistemas de navegación han ampliado su alcance. Sin embargo, en la comunidad de aprendizaje automático, algunas voces se cuestionan la viabilidad a largo plazo de chips especializados para el borde de ultra-bajo consumo, especialmente cuando proveedores de nube ofrecen inferencias más barata a través de Oracle Cloud y [[azure|Azure]. Untether AI responde señalando aplicaciones sensibles a latencia y privacidad de datos que requieren mantener los latidos de datos en el dispositivo.
La compañía ha también aportado al software libre, del código open porque proporcionó su cómodo de backend o su toolchain adoptado para el software Onnx o más alla de la comunidad ONNX Runtime en 2022, aunque la integración adicional sigue siendo en curso. Su trayectoria de financiamiento demuestra un interés intenemente sostenido por parte de los inversores en semiconductores especializados en el tema de la IA, un contexto que surge dentro de la mayor dinámica de consolidación en el sector.