Deci AI es una empresa tecnológica israelí especializada en la aceleración del aprendizaje profundo. Fundada en 2019, la empresa desarrolla herramientas de software que optimizan modelos de inteligencia artificial para su despliegue eficiente en diversas plataformas de hardware, incluidos dispositivos de borde y servidores en la nube. La tecnología central de Deci AI tiene como objetivo reducir el costo computacional de las redes neuronales mientras mantiene o mejora su precisión, abordando un cuello de botella clave en la adopción práctica de sistemas de IA.
La empresa surgió de la investigación sobre búsqueda automatizada de arquitecturas neuronales y compresión de modelos, posicionándose dentro del campo más amplio de las operaciones de aprendizaje automático. Los productos de Deci AI se dirigen a organizaciones que despliegan modelos de lenguaje grandes, sistemas de visión por computadora y otras cargas de trabajo de IA, ofreciendo soluciones que afirman mejorar la velocidad de inferencia y reducir los costos de infraestructura. A partir de 2024, la empresa ha recaudado un capital de riesgo significativo y ha establecido asociaciones con los principales proveedores de nube y empresas de semiconductores.
Fundación y Financiación
Deci AI fue fundada en 2019 por Yonatan Geifman, Ran El-Yaniv y Jonathan Elster. Geifman, quien se desempeñó como director ejecutivo, trabajó previamente en investigación de IA en Intel. El-Yaniv, profesor en el Technion - Instituto de Tecnología de Israel, aportó experiencia académica en aprendizaje automático y optimización de redes neuronales. La empresa tiene su sede en Tel Aviv, Israel.
La startup recaudó una ronda inicial de financiación semilla de $9.25 millones en 2020, liderada por Emerge y con la participación de Square Peg Capital y otros inversores. En 2021, Deci AI aseguró una ronda de financiación Serie A de $21 millones, elevando su financiación total a aproximadamente $30 millones. La Serie A fue liderada por Insight Partners, con el apoyo continuo de los patrocinadores existentes. En 2023, la empresa cerró una ronda Serie B de $25 millones, liderada por AME Cloud Ventures, lo que elevó la financiación acumulada a más de $55 millones. Estas cifras reflejan el creciente interés de los inversores en la infraestructura de IA y las tecnologías de optimización de modelos.
Tecnología Central: AutoNAS e Infery
La tecnología fundacional de Deci AI es AutoNAS (Búsqueda Automatizada de Arquitecturas Neuronales), un sistema propietario que diseña automáticamente arquitecturas de redes neuronales eficientes. AutoNAS utiliza aprendizaje por refuerzo y otras técnicas de optimización para explorar el espacio de posibles diseños de redes, equilibrando la precisión contra el costo computacional. El sistema puede generar arquitecturas personalizadas adaptadas a objetivos de hardware específicos, como procesadores ARM, chips Intel o GPU NVIDIA, aunque NVIDIA no está explícitamente listada entre los socios públicos de la empresa.
El principal producto comercial construido sobre AutoNAS es Infery, un motor de inferencia y optimización en tiempo de ejecución. Infery incluye un kit de herramientas de optimización de modelos que aplica técnicas como poda, cuantización y destilación de conocimiento para reducir el tamaño y la latencia del modelo. El tiempo de ejecución admite el despliegue en múltiples marcos, incluidos TensorFlow y PyTorch, y se integra con entornos contenedorizados como Docker y Kubernetes. Infery afirma ofrecer una aceleración de inferencia de hasta 10 veces en dispositivos de borde y hasta 4 veces en servidores en la nube, aunque estas cifras dependen del modelo y hardware específicos.
Ofertas de Productos y Casos de Uso
La suite de productos de Deci AI se extiende más allá de Infery para incluir DeciLint, una herramienta de análisis de modelos que identifica ineficiencias en los grafos de redes neuronales, y DeciGrad, un módulo de optimización basado en gradientes que ajusta modelos para hardware objetivo. Estas herramientas están diseñadas para equipos de ciencia de datos y aprendizaje automático que necesitan desplegar modelos en entornos de producción con restricciones estrictas de latencia y costo.
Los casos de uso clave incluyen aplicaciones de visión por computadora como detección de objetos y segmentación de imágenes, tareas de procesamiento de lenguaje natural como clasificación de texto y respuesta a preguntas, y más recientemente, inferencia de modelos de lenguaje grandes. Por ejemplo, Deci AI ha demostrado la capacidad de ejecutar un modelo transformador de 175 mil millones de parámetros en un solo nodo de servidor aplicando técnicas de compresión agresivas, aunque tales afirmaciones se basan en puntos de referencia internos y no han sido verificadas de forma independiente. La empresa también ofrece Deci Cloud, una plataforma gestionada que permite a los clientes probar y comparar modelos optimizados sin configurar su propia infraestructura.
Asociaciones y Ecosistema
Deci AI ha formado asociaciones con varias empresas tecnológicas importantes para expandir su alcance. En 2022, la empresa anunció una colaboración con Qualcomm para optimizar modelos de IA para las plataformas móviles Snapdragon de Qualcomm, dirigida a la inferencia en el dispositivo para teléfonos inteligentes y dispositivos IoT. Esta asociación tenía como objetivo habilitar funciones de IA en tiempo real como mejora de imágenes y reconocimiento de voz con menor consumo de energía.
En el espacio de la nube, Deci AI ha trabajado con Amazon Web Services y Google Cloud para ofrecer sus herramientas de optimización como parte de sus mercados de IA. La empresa también se asoció con AMD en 2023 para apoyar los aceleradores Instinct de AMD, proporcionando bibliotecas de modelos optimizados para cargas de trabajo de centros de datos. Además, Deci AI ha colaborado con Samsung Electronics para aplicaciones de IA de borde en electrónica de consumo, aunque los detalles específicos del producto no se han divulgado.
Estas asociaciones son estratégicas para Deci AI porque proporcionan acceso a optimizaciones específicas de hardware y canales de distribución. Al alinearse con fabricantes de chips y proveedores de nube, la empresa puede asegurar que su software funcione eficientemente en el diverso panorama de aceleradores de IA, desde AWS Trainium hasta sistemas Groq y SambaNova.
Panorama Competitivo
Deci AI opera en un mercado competitivo que incluye tanto actores establecidos como startups. Los competidores directos incluyen Graphcore, que desarrolla procesadores de IA especializados, y Groq, que se centra en hardware de inferencia ultrarrápida. En el lado del software, empresas como SambaNova y Neural Magic ofrecen soluciones de optimización, aunque Neural Magic no está en la lista de enlaces proporcionada. Además, los principales proveedores de nube ofrecen sus propios servicios de optimización, como Amazon SageMaker y Azure Machine Learning, que pueden competir con las ofertas de Deci AI.
Deci AI se diferencia a través de su tecnología AutoNAS, que automatiza el proceso de búsqueda de arquitecturas en lugar de depender únicamente de la compresión posterior. Este enfoque puede producir modelos que son inherentemente más eficientes desde el principio, en lugar de reducir arquitecturas existentes. La empresa también enfatiza la optimización consciente del hardware, adaptando modelos a chips específicos, lo que es una tendencia creciente en la industria a medida que las cargas de trabajo de IA se mueven a entornos diversos de borde y centros de datos.
Investigación y Contribuciones de Código Abierto
Deci AI mantiene un equipo de investigación activo que publica artículos académicos y contribuye a la comunidad de IA en general. Publicaciones notables incluyen trabajo sobre entrenamiento consciente de cuantización y arquitecturas de transformadores eficientes, presentadas en conferencias como NeurIPS e ICML. La empresa también ha lanzado herramientas de código abierto, incluida una biblioteca para compresión de modelos que ha sido utilizada por desarrolladores externos.
En 2023, Deci AI introdujo una técnica llamada "superresolución para redes neuronales", que utiliza modelos generativos para reconstruir redes de alta precisión a partir de versiones comprimidas. Esta investigación tiene aplicaciones potenciales en IA generativa y podría mejorar la eficiencia de los modelos transformadores. Sin embargo, estas contribuciones son parte de un campo en rápida evolución, y su impacto a largo plazo aún está por verse.
Desafíos y Direcciones Futuras
Como muchas empresas de infraestructura de IA, Deci AI enfrenta desafíos relacionados con el rápido ritmo del desarrollo de hardware y modelos. Nuevas arquitecturas de aceleradores, como las TPU de Google DeepMind y los chips personalizados de Tesla, requieren una adaptación continua de las herramientas de optimización. Además, el auge de los modelos fundacionales con miles de millones de parámetros presenta desafíos de escalado que pueden limitar la aplicabilidad de las técnicas de compresión tradicionales.
De cara al futuro, Deci AI tiene como objetivo expandir su soporte para cargas de trabajo de IA generativa, incluida la generación de texto y modelos multimodales. La empresa también está explorando la integración con Microsoft Azure y Oracle Cloud para ampliar su alcance en la nube. A partir de 2024, Deci AI no ha revelado planes para una oferta pública inicial, pero su trayectoria de financiación sugiere un crecimiento continuo en el mercado de optimización de IA.
Conclusión
Deci AI se ha establecido como un actor notable en el espacio de aceleración del aprendizaje profundo, ofreciendo herramientas de software que mejoran la eficiencia de los modelos de IA en plataformas de hardware. Con su tecnología AutoNAS y el tiempo de ejecución Infery, la empresa aborda necesidades críticas para organizaciones que despliegan IA a escala. Aunque la competencia es intensa, el enfoque de Deci AI en la búsqueda automatizada de arquitecturas y la optimización consciente del hardware proporciona una propuesta de valor distintiva. El éxito futuro de la empresa dependerá de su capacidad para mantenerse al día con la evolución de los modelos y hardware de IA, así como de su capacidad para convertir las innovaciones técnicas en adopción comercial.