Deci AI est une entreprise technologique israélienne spécialisée dans l'accélération de l'apprentissage profond. Fondée en 2019, l'entreprise développe des outils logiciels qui optimisent les modèles d'intelligence artificielle pour un déploiement efficace sur diverses plateformes matérielles, y compris les appareils de périphérie et les serveurs cloud. La technologie principale de Deci AI vise à réduire le coût computationnel des réseaux neuronaux tout en maintenant ou en améliorant leur précision, répondant ainsi à un goulot d'étranglement clé dans l'adoption pratique des systèmes d'IA.
L'entreprise est issue de recherches sur la recherche automatisée d'architectures neuronales et la compression de modèles, se positionnant dans le domaine plus large des opérations d'apprentissage automatique. Les produits de Deci AI ciblent les organisations qui déploient des modèles de langage de grande taille, des systèmes de vision par ordinateur et d'autres charges de travail d'IA, offrant des solutions qui prétendent améliorer la vitesse d'inférence et réduire les coûts d'infrastructure. En 2024, l'entreprise a levé un capital-risque significatif et a établi des partenariats avec de grands fournisseurs de cloud et des entreprises de semi-conducteurs.
Fondation et financement
Deci AI a été fondée en 2019 par Yonatan Geifman, Ran El-Yaniv et Jonathan Elster. Geifman, qui a servi en tant que directeur général, a précédemment travaillé sur la recherche en IA chez Intel. El-Yaniv, professeur au Technion - Institut de technologie d'Israël, a apporté une expertise académique en apprentissage automatique et en optimisation de réseaux neuronaux. L'entreprise est basée à Tel Aviv, en Israël.
La startup a levé un tour de table initial de 9,25 millions de dollars en 2020, mené par Emerge et avec la participation de Square Peg Capital et d'autres investisseurs. En 2021, Deci AI a sécurisé un tour de financement de série A de 21 millions de dollars, portant son financement total à environ 30 millions de dollars. La série A a été menée par Insight Partners, avec un soutien continu des bailleurs de fonds existants. En 2023, l'entreprise a clôturé un tour de série B de 25 millions de dollars, mené par AME Cloud Ventures, portant le financement cumulé à plus de 55 millions de dollars. Ces chiffres reflètent l'intérêt croissant des investisseurs pour l'infrastructure d'IA et les technologies d'optimisation de modèles.
Technologie principale : AutoNAS et Infery
La technologie fondamentale de Deci AI est AutoNAS (recherche automatisée d'architectures neuronales), un système propriétaire qui conçoit automatiquement des architectures de réseaux neuronaux efficaces. AutoNAS utilise l'apprentissage par renforcement et d'autres techniques d'optimisation pour explorer l'espace des conceptions de réseaux possibles, équilibrant la précision et le coût computationnel. Le système peut générer des architectures personnalisées adaptées à des cibles matérielles spécifiques, telles que les processeurs ARM, les puces Intel ou les GPU NVIDIA, bien que NVIDIA ne soit pas explicitement listé parmi les partenaires publics de l'entreprise.
Le principal produit commercial construit sur AutoNAS est Infery, un moteur d'inférence et d'optimisation. Infery comprend une boîte à outils d'optimisation de modèles qui applique des techniques telles que l'élagage, la quantification et la distillation de connaissances pour réduire la taille et la latence des modèles. Le moteur prend en charge le déploiement sur plusieurs frameworks, y compris TensorFlow et PyTorch, et s'intègre avec des environnements conteneurisés comme Docker et Kubernetes. Infery prétend offrir jusqu'à 10 fois d'accélération d'inférence sur les appareils de périphérie et jusqu'à 4 fois sur les serveurs cloud, bien que ces chiffres dépendent du modèle et du matériel spécifiques.
Offres de produits et cas d'utilisation
La suite de produits de Deci AI s'étend au-delà d'Infery pour inclure DeciLint, un outil d'analyse de modèles qui identifie les inefficacités dans les graphes de réseaux neuronaux, et DeciGrad, un module d'optimisation basé sur le gradient qui affine les modèles pour le matériel cible. Ces outils sont conçus pour les équipes de science des données et d'apprentissage automatique qui doivent déployer des modèles dans des environnements de production avec des contraintes strictes de latence et de coût.
Les cas d'utilisation clés incluent des applications de vision par ordinateur telles que la détection d'objets et la segmentation d'images, des tâches de traitement du langage naturel comme la classification de texte et la réponse aux questions, et plus récemment, l'inférence de modèles de langage de grande taille. Par exemple, Deci AI a démontré la capacité d'exécuter un modèle transformer de 175 milliards de paramètres sur un seul nœud de serveur en appliquant des techniques de compression agressives, bien que de telles affirmations soient basées sur des benchmarks internes et n'aient pas été vérifiées indépendamment. L'entreprise propose également Deci Cloud, une plateforme gérée qui permet aux clients de tester et de comparer des modèles optimisés sans configurer leur propre infrastructure.
Partenariats et écosystème
Deci AI a formé des partenariats avec plusieurs grandes entreprises technologiques pour étendre sa portée. En 2022, l'entreprise a annoncé une collaboration avec Qualcomm pour optimiser les modèles d'IA pour les plateformes mobiles Snapdragon de Qualcomm, ciblant l'inférence sur appareil pour les smartphones et les appareils IoT. Ce partenariat visait à permettre des fonctionnalités d'IA en temps réel telles que l'amélioration d'image et la reconnaissance vocale avec une consommation d'énergie plus faible.
Dans le domaine du cloud, Deci AI a travaillé avec Amazon Web Services et Google Cloud pour proposer ses outils d'optimisation dans leurs places de marché d'IA. L'entreprise a également conclu un partenariat avec AMD en 2023 pour soutenir les accélérateurs Instinct d'AMD, fournissant des bibliothèques de modèles optimisés pour les charges de travail de centres de données. De plus, Deci AI s'est engagée avec Samsung Electronics pour des applications d'IA de périphérie dans l'électronique grand public, bien que les détails spécifiques des produits restent non divulgués.
Ces partenariats sont stratégiques pour Deci AI car ils fournissent un accès à des optimisations spécifiques au matériel et à des canaux de distribution. En s'alignant avec les fabricants de puces et les fournisseurs de cloud, l'entreprise peut garantir que son logiciel fonctionne efficacement à travers le paysage diversifié des accélérateurs d'IA, de AWS Trainium à Groq et aux systèmes SambaNova.
Paysage concurrentiel
Deci AI opère dans un marché concurrentiel qui comprend à la fois des acteurs établis et des startups. Les concurrents directs incluent Graphcore, qui développe des processeurs d'IA spécialisés, et Groq, qui se concentre sur le matériel d'inférence ultra-rapide. Côté logiciel, des entreprises comme SambaNova et Neural Magic offrent des solutions d'optimisation, bien que Neural Magic ne soit pas dans la liste de liens fournie. De plus, les grands fournisseurs de cloud offrent leurs propres services d'optimisation, tels qu'Amazon SageMaker et Azure Machine Learning, qui peuvent concurrencer les offres de Deci AI.
Deci AI se différencie par sa technologie AutoNAS, qui automatise le processus de recherche d'architectures plutôt que de se reposer uniquement sur une compression a posteriori. Cette approche peut produire des modèles intrinsèquement plus efficaces dès le départ, plutôt que de réduire des architectures existantes. L'entreprise met également l'accent sur l'optimisation consciente du matériel, adaptant les modèles à des puces spécifiques, ce qui est une tendance croissante dans l'industrie alors que les charges de travail d'IA se déplacent vers des environnements diversifiés de périphérie et de centres de données.
Recherche et contributions open source
Deci AI maintient une équipe de recherche active qui publie des articles académiques et contribue à la communauté IA plus large. Les publications notables incluent des travaux sur l'entraînement conscient de la quantification et les architectures transformer efficaces, présentés lors de conférences telles que NeurIPS et ICML. L'entreprise a également publié des outils open source, y compris une bibliothèque pour la compression de modèles qui a été utilisée par des développeurs externes.
En 2023, Deci AI a introduit une technique appelée « super-résolution pour réseaux neuronaux », qui utilise des modèles génératifs pour reconstruire des réseaux de haute précision à partir de versions compressées. Cette recherche a des applications potentielles dans l'IA générative et pourrait améliorer l'efficacité des modèles transformer. Cependant, ces contributions font partie d'un domaine en évolution rapide, et leur impact à long terme reste à voir.
Défis et orientations futures
Comme de nombreuses entreprises d'infrastructure d'IA, Deci AI fait face à des défis liés au rythme rapide du développement matériel et des modèles. Les nouvelles architectures d'accélérateurs, telles que les TPU de Google DeepMind et les puces personnalisées de Tesla, nécessitent une adaptation continue des outils d'optimisation. De plus, l'essor des modèles de fondation avec des milliards de paramètres présente des défis de mise à l'échelle qui peuvent limiter l'applicabilité des techniques de compression traditionnelles.
À l'avenir, Deci AI vise à étendre son soutien aux charges de travail d'IA générative, y compris la génération de texte et les modèles multimodaux. L'entreprise explore également l'intégration avec Microsoft Azure et Oracle Cloud pour élargir sa portée cloud. En 2024, Deci AI n'a pas divulgué de plans pour une introduction en bourse, mais sa trajectoire de financement suggère une croissance continue sur le marché de l'optimisation d'IA.
Conclusion
Deci AI s'est établie comme un acteur notable dans le domaine de l'accélération de l'apprentissage profond, offrant des outils logiciels qui améliorent l'efficacité des modèles d'IA à travers les plateformes matérielles. Avec sa technologie AutoNAS et son moteur Infery, l'entreprise répond aux besoins critiques des organisations qui déploient l'IA à grande échelle. Bien que la concurrence soit intense, l'accent de Deci AI sur la recherche automatisée d'architectures et l'optimisation consciente du matériel offre une proposition de valeur distincte. Le succès futur de l'entreprise dépendra de sa capacité à suivre le rythme des modèles et du matériel d'IA en évolution, ainsi que de sa capacité à convertir les innovations techniques en adoption commerciale.