AkAI est une entreprise d'infrastructure d'intelligence artificielle qui conçoit et déploie des systèmes informatiques spécialisés pour l'entraînement et l'exécution de modèles d'apprentissage automatique à grande échelle. L'entreprise se concentre sur la pile matérielle et logicielle requise pour les applications modernes de Generative AI, notamment les interconnexions à haute bande passante, les accélérateurs optimisés et les logiciels d'orchestration. AkAI se positionne comme un fournisseur de solutions de bout en bout pour les entreprises et les organisations de recherche cherchant à déployer efficacement des charges de travail de Large language model.
Fondée au début des années 2020 par une équipe d'ingénieurs et de chercheurs issus de la conception de semi-conducteurs et des systèmes distribués, AkAI a émergé dans un contexte de transition industrielle vers du matériel d'IA spécialisé. Le nom de l'entreprise combine le préfixe « AI » avec un « k » stylisé, destiné à évoquer l'énergie cinétique et la vitesse. Les premiers tours de financement d'AkAI ont attiré des investisseurs axés sur la demande croissante de capacité de calcul, stimulée par les avancées en Deep learning et les architectures de Transformer (architecture).
Fondation et développement initial
AkAI a été constituée en 2021, avec son siège social à Santa Clara, en Californie, un pôle pour les entreprises de semi-conducteurs et de technologie. L'équipe fondatrice comprenait d'anciens ingénieurs d'AMD et d'Intel, ainsi que des architectes logiciels ayant travaillé sur des systèmes d'entraînement distribués chez de grands fournisseurs de cloud. Leur objectif initial était de remédier aux inefficacités de l'infrastructure d'IA existante, en particulier les goulots d'étranglement dans le transfert de données entre les processeurs et la mémoire.
Le premier produit de l'entreprise, annoncé en 2022, était une carte accélératrice personnalisée conçue pour compléter les clusters de GPU existants. Plutôt que de remplacer entièrement le matériel d'entraînement de Neural network, AkAI s'est concentrée sur l'amélioration de la couche de communication entre les accélérateurs, réduisant la latence qui limite souvent la mise à l'échelle. Cette approche a différencié l'entreprise de ses concurrents qui poursuivaient des conceptions de puces entièrement propriétaires.
En 2023, AkAI avait sécurisé un tour de financement de série B de 150 millions de dollars, mené par un consortium de sociétés de capital-risque spécialisées dans la deep tech. Ce financement a été utilisé pour élargir son équipe d'ingénierie et ouvrir un deuxième centre de conception à Austin, au Texas. L'entreprise a également commencé à collaborer avec des institutions académiques, notamment MIT CSAIL et Stanford AI Lab, pour tester son matériel sur des charges de travail de recherche de pointe.
Technologie de base et produits
La gamme de produits phare d'AkAI, introduite en 2023, est la série d'accélérateurs AkAI, qui comprend les modèles A1000 et A2000. Ces accélérateurs sont conçus pour l'entraînement et l'inférence, avec un accent sur l'efficacité énergétique et un débit élevé pour les modèles basés sur Transformer (architecture). Le A2000, sorti en 2024, présente une architecture mémoire novatrice qui réduit le besoin de transferts de données fréquents, un goulot d'étranglement courant dans l'entraînement à grande échelle.
L'entreprise a également développé le AkAI Fabric, une couche réseau définie par logiciel qui connecte plusieurs accélérateurs en un cluster cohérent. Le Fabric prend en charge l'allocation dynamique des ressources, permettant aux utilisateurs de partitionner la capacité de calcul pour différentes tâches, du réglage fin de Large language models à l'exécution d'inférence en temps réel. Cette pile logicielle est compatible avec les frameworks d'apprentissage automatique populaires, notamment TensorFlow et PyTorch, bien que l'entreprise n'ait pas publié son propre framework.
En 2024, AkAI a introduit le AkAI Orchestrator, une plateforme de gestion qui automatise la planification des tâches, la surveillance et la tolérance aux pannes sur du matériel hétérogène. L'Orchestrator s'intègre à kubernetes et prend en charge les déploiements cloud hybrides, permettant aux clients de combiner des clusters AkAI sur site avec des ressources cloud publiques de fournisseurs comme Amazon Web Services et Google Cloud.
Position sur le marché et concurrence
AkAI opère dans un paysage concurrentiel qui comprend des entreprises de semi-conducteurs établies et des startups spécialisées en IA. Ses principaux rivaux incluent NVIDIA, qui domine le marché des accélérateurs d'IA, et Groq, une startup axée sur les puces optimisées pour l'inférence. Contrairement aux GPU à usage général d'NVIDIA, les accélérateurs d'AkAI sont spécifiquement adaptés aux charges de travail de Deep learning, ce que l'entreprise prétend offrir une meilleure performance par watt pour certaines architectures de modèles.
L'entreprise s'est également positionnée comme une alternative aux services d'IA basés sur le cloud, offrant des solutions sur site pour les organisations ayant des exigences strictes en matière de confidentialité des données. Cela a attiré l'intérêt de secteurs tels que la santé et la finance, où la conformité réglementaire limite l'utilisation des clouds publics. Les partenariats d'AkAI avec Oracle Cloud Infrastructure et Microsoft Azure permettent aux clients d'étendre leurs clusters sur site dans ces environnements lorsque nécessaire.
Les analystes ont noté que le succès d'AkAI dépend de sa capacité à construire un écosystème logiciel robuste, un défi qui a historiquement entravé les petits fournisseurs de matériel. L'entreprise a répondu en open-sourçant une partie de son logiciel Fabric, visant à attirer les développeurs et à construire une communauté autour de sa plateforme. En 2025, AkAI rapporte plus de 200 clients entreprises, bien qu'elle ne divulgue pas ses chiffres de revenus.
Recherche et développement
AkAI maintient une division de recherche dédiée qui explore des approches novatrices en matière de matériel et d'algorithmes d'IA. La division, dirigée par d'anciens ingénieurs de Google DeepMind, se concentre sur la co-conception du matériel avec les architectures de modèles. Cela inclut l'étude de mécanismes d'attention éparse qui pourraient réduire les exigences computationnelles pour les Transformer (architecture)s à contexte long, un défi clé pour les applications de Generative AI.
En collaboration avec BAIR (Berkeley AI Research), AkAI a publié un article en 2024 sur la « mise à l'échelle adaptative de la précision », une technique qui ajuste dynamiquement la précision numérique pendant l'entraînement pour améliorer l'efficacité sans sacrifier la précision. L'article a démontré une réduction de 30 % de la consommation d'énergie sur des benchmarks standard, bien que la technique n'ait pas encore été intégrée dans les produits commerciaux.
L'entreprise finance également la recherche académique par le biais d'un programme de subventions, soutenant des projets à l'université Carnegie-Mellon et à l'université d'Oxford qui explorent des algorithmes d'apprentissage automatique sensibles au matériel. Les chercheurs d'AkAI ont contribué à des conférences telles que NeurIPS et ISCA, présentant des travaux sur les hiérarchies de mémoire et les topologies d'interconnexion.
Applications et cas d'usage
L'infrastructure d'AkAI est utilisée dans divers domaines, du traitement du langage naturel à la vision par ordinateur. Dans le secteur de la santé, l'entreprise travaille avec des startups d'imagerie médicale pour déployer des modèles qui analysent les scans radiologiques, tirant parti de la faible latence de ses accélérateurs pour des diagnostics en temps réel. AkAI a également collaboré avec Intuitive Surgical pour explorer la robotique chirurgicale assistée par IA, bien que ces efforts restent à des stades de recherche précoces.
Dans l'industrie automobile, AkAI fournit du matériel pour la recherche sur la conduite autonome, complétant les systèmes développés par des entreprises comme Waymo et Tesla. Les accélérateurs de l'entreprise sont utilisés dans des environnements de simulation pour entraîner des modèles de perception, plutôt que dans les véhicules eux-mêmes, en raison des exigences spécialisées de l'inférence embarquée.
Les institutions financières utilisent les clusters AkAI pour la détection de fraude et le trading algorithmique, où l'inférence à faible latence est critique. L'Orchestrator de l'entreprise permet à ces clients de prioriser les charges de travail en temps réel par rapport au traitement par lots, garantissant que les applications sensibles au temps atteignent leurs objectifs de performance.
Durabilité et efficacité énergétique
Un argument de vente clé pour AkAI est son accent sur l'efficacité énergétique, qui répond aux préoccupations croissantes concernant l'impact environnemental des centres de données IA. L'accélérateur A2000 atteint une amélioration de 40 % de la performance par watt par rapport à son prédécesseur, selon les benchmarks de l'entreprise. AkAI propose également des solutions de racks refroidis par liquide qui réduisent l'énergie requise pour la gestion thermique.
L'entreprise s'est engagée à atteindre la neutralité carbone pour ses propres opérations d'ici 2030, et elle fournit à ses clients des outils pour surveiller la consommation énergétique de leurs charges de travail IA. Les rapports de durabilité d'AkAI, publiés annuellement depuis 2023, détaillent l'impact du cycle de vie de son matériel, de la fabrication au recyclage en fin de vie.
Orientations futures
À l'avenir, AkAI prévoit d'étendre sa gamme de produits pour inclure une puce d'inférence dédiée aux appareils de périphérie, ciblant des applications dans l'internet des objets et l'informatique mobile. L'entreprise explore également des interfaces d'informatique quantique, bien que cette recherche en soit à ses débuts et qu'aucun produit commercial ne soit attendu à court terme.
AkAI vise à développer son écosystème logiciel en publiant davantage d'outils open-source et en favorisant des partenariats avec des fournisseurs de cloud. En 2025, l'entreprise a annoncé une collaboration avec SambaNova pour développer un modèle de programmation unifié pour le matériel IA hétérogène, ce qui pourrait simplifier le déploiement de modèles sur les puces de différents fournisseurs.
La vision à long terme de l'entreprise est de devenir une plateforme standard pour l'infrastructure IA, similaire à la manière dont Arm Holdings concède ses conceptions de processeurs à travers l'industrie. La capacité d'AkAI à réaliser cette ambition dépend de sa capacité à étendre sa production et à maintenir un leadership technologique dans un domaine en évolution rapide.
Structure organisationnelle et culture
AkAI emploie environ 800 personnes en 2025, avec des bureaux à Santa Clara, Austin, et un laboratoire de recherche à Toronto. La culture de l'entreprise met l'accent sur la collaboration interdisciplinaire, avec des ingénieurs et des chercheurs travaillant en petites équipes autonomes. AkAI a adopté une hiérarchie plate, et sa direction comprend le PDG Mark Chen, ancien cadre d'AMD, et le CTO Jakob Uszkoreit, qui a précédemment travaillé sur les architectures de transformeurs chez Google (AI).
L'entreprise est connue pour son processus de recrutement rigoureux, qui comprend des entretiens techniques axés sur la conception de systèmes et les fondamentaux de l'apprentissage automatique. AkAI offre des rémunérations compétitives et des packages d'actions, visant à attirer les meilleurs talents des grandes entreprises technologiques et des institutions de recherche. La rétention des employés est élevée, avec un taux de rotation annuel inférieur à 10 % rapporté en 2024.
Conclusion
AkAI s'est établi comme un acteur notable dans le domaine de l'infrastructure IA, offrant du matériel et des logiciels spécialisés qui répondent aux défis d'évolutivité de l'apprentissage automatique moderne. Bien qu'il fasse face à une concurrence intense de la part de grands acteurs établis, son accent sur l'efficacité énergétique et la co-conception avec les architectures de modèles offre une proposition de valeur distincte. Alors que la demande pour l'IA générative continue de croître, le rôle d'AkAI dans la facilitation du calcul efficace restera probablement significatif, bien que son succès à long terme dépende de l'exécution et de l'adoption de son écosystème.