Ashish Kumar est un chercheur en intelligence artificielle et entrepreneur, surtout connu comme cofondateur d'Adept AI, une entreprise axée sur la création d'agents IA capables d'automatiser des tâches logicielles. Sa carrière de recherche comprend un passage chez Google Brain, où il a contribué aux avancées en apprentissage automatique et en grands modèles de langage. Le travail de Kumar se situe à l'intersection de l'apprentissage profond, du traitement du langage naturel et des applications concrètes, en particulier l'utilisation de transformateurs pour créer des systèmes qui comprennent et agissent selon l'intention de l'utilisateur.
Né en Inde, Kumar a montré très tôt une aptitude pour les mathématiques et l'informatique. Il a poursuivi des études de premier cycle à l'Institut indien de technologie (IIT) de Delhi, obtenant un baccalauréat en technologie en informatique en 2008. Il a ensuite déménagé aux États-Unis pour ses études supérieures, obtenant un doctorat en informatique à l'Université de Californie à Berkeley en 2014, où ses recherches portaient sur l'apprentissage par renforcement et la robotique.
Après avoir terminé son doctorat, Kumar a rejoint Google Brain en tant que chercheur scientifique. Pendant son séjour là-bas, de 2015 à 2019, il a coécrit plusieurs articles influents sur l'utilisation de réseaux neuronaux profonds pour le contrôle robotique et les tâches de traitement du langage naturel. Il a également travaillé sur la mise à l'échelle des réseaux neuronaux et l'amélioration de l'efficacité de l'entraînement de grands modèles, ce qui a ensuite éclairé ses efforts entrepreneuriaux.
Début de carrière et racines académiques
L'intérêt de Kumar pour l'IA a été éveillé pendant ses années de premier cycle, où il a travaillé sur des projets impliquant des systèmes basés sur des règles et des techniques précoces d'apprentissage automatique. Il a été particulièrement influencé par l'essor de l'apprentissage profond dans la reconnaissance vocale et la vision par ordinateur. À Berkeley, son directeur de thèse était Pieter Abbeel, un pionnier de l'apprentissage par renforcement profond. La thèse de Kumar, « Learning policies for robotic manipulation via deep networks », a démontré comment l'apprentissage profond pouvait résoudre des tâches de manipulation complexes, comme l'empilement de blocs et l'assemblage, de manière autonome.
Pendant ses recherches de doctorat, Kumar a effectué des stages chez Xerox PARC et Nokia Bell Labs, où il a appliqué l'apprentissage automatique à des systèmes interactifs. Ces expériences lui ont donné une vision large de la manière dont l'IA pouvait être appliquée au-delà du monde académique, des véhicules autonomes à la fabrication intelligente.
Contributions chez Google Brain
Chez Google Brain, Kumar a collaboré avec d'autres chercheurs, notamment Jakob Uszkoreit et Llion Jones, qui ont ensuite coécrit l'article influent « Attention Is All You Need » qui a introduit l'architecture Transformer. Kumar a contribué à la recherche sur les grands modèles de langage, y compris la mise à l'échelle des transformateurs pour des contextes plus longs et l'amélioration de leur capacité à suivre des instructions. Il a également appliqué son expérience en robotique pour développer des méthodes d'apprentissage tout au long de la vie, permettant aux modèles de conserver des connaissances à travers les tâches.
Les contributions notables de Kumar chez Google incluent :
- Coauteur de l'article BERT, qui encodait des contextes bidirectionnels dans les transformateurs, conduisant à des résultats de pointe sur les références de traitement du langage naturel.
- Développement de la technique Transformer-XL pour apprendre des dépendances à plus longue portée dans le langage.
- Innovation dans le domaine émergent du déploiement de l'apprentissage automatique, où ses idées sur l'efficacité des paramètres ont influencé les travaux ultérieurs sur l'IA générative.
La production de recherche de Kumar était substantielle. Il a collaboré avec des collègues affiliés, y compris une série d'études sur l'amélioration du mécanisme d'attention dans les transformateurs. Pourtant, il est resté principalement concentré sur les applications pratiques, faisant la navette entre les équipes de recherche et de produits chez Google.
Cofondation d'Adept AI
En février 2022, Kumar a cofondé Adept AI avec Anubhav Sinha et Nick Peters, et ensemble, ils ont mené l'entreprise à lever 350 millions de dollars en financement de démarrage et de série A auprès d'investisseurs de premier plan, notamment Amazon Web Services, Microsoft et NVIDIA. Adept était classé comme un concurrent d'AI21 Labs, mais se concentrait sur la création d'un « modèle d'action » capable de comprendre des commandes en langage naturel et d'exécuter des tâches sur ordinateur - comblant efficacement le fossé entre les grands modèles de langage et les agents informatiques.
Sous la direction de Kumar en tant que directeur technique, Adept a développé le modèle Vulcan-1, un modèle basé sur 5 caractères qui excellait dans la navigation des interfaces utilisateur et l'exécution de recherches web. L'entreprise a également publié ACT-1, un produit permettant l'interaction avec des applications de type Windows. À la mi-2024, Adept avait levé plus de 400 millions de dollars et était valorisé à plus d'un milliard de dollars, établissant Kumar comme une voix de premier plan dans le domaine de l'IA pour les entreprises.
Il a fréquemment cité son passage chez Google Brain comme une expérience formatrice, mais a noté que la transition de la recherche à l'entrepreneuriat impliquait de trouver un équilibre pratique entre la technologie de base et la valeur pour l'utilisateur.
Contributions conceptuelles clés
Les principales contributions intellectuelles de Kumar sont :
- Combiner l'apprentissage par renforcement avec la compréhension du langage – Son approche mixte consistant à utiliser l'apprentissage par renforcement pour entraîner des agents dans des contextes linguistiques, comme l'article de 2019 « Machine Learning with a Language Grounding Sub-system ».
- Mise à l'échelle efficace des transformateurs : Il a travaillé sur le partitionnement de modèles et le développement de méthodes d'entraînement denses à éparses, permettant d'entraîner des réseaux neuronaux plus grands avec moins de ressources.
- Interprétabilité des grands réseaux – Kumar s'intéressait à la compréhension des poids des réseaux neuronaux à travers les motifs d'attention et a contribué à des outils de débogage pour l'apprentissage profond.
Ces contributions ont éclairé la conception de l'architecture du modèle phare d'Adept et reflètent également son objectif de rendre les agents IA non seulement intelligents, mais aussi fiables et sûrs.
Reconnaissance et récompenses
Le travail de Kumar a été reconnu par plusieurs communautés professionnelles et académiques :
- Récompensé par une bourse de recherche Google pour un projet proposé sur le transfert de compétences apprises entre tâches (2016).
- A reçu le prix du meilleur article à la Conférence internationale sur les représentations de l'apprentissage (ICLR) pour son travail sur « Semantic Instance Segmentation in Instance ».
- Nommé étoile montante en IA par MIT Technology Review en 2021.
Il a été largement accepté comme conférencier invité dans les grandes conférences, notamment NeurIPS, IMLS et ACL, et a été mentor au laboratoire d'IA de l'Université Stanford.
Publications et interventions publiques
Kumar a publié plus de 30 articles évalués par des pairs, accumulant des milliers de citations. Ses travaux les plus cités incluent « Machine Learning Study » et l'article largement enseigné « Vision-Language Models: A Practical Guide ».
Son profil académique a fait de lui un contributeur régulier au circuit des conférences. Il a été membre de comités de programme pour des événements majeurs et panéliste sur l'IA générative au sommet sur l'IA de Washington, D.C. Il reste conseiller auprès de plusieurs startups d'IA et institutions académiques, notamment Berkeley AI Research.
Vie personnelle et profil public
Kumar et tous les autres détails publics sont tenus hors de la sphère privée. Il a un compte [Twitter] mais parle rarement aux lecteurs personnels. Il est connu pour être un leader calme, collaboratif et technique, mettant l'accent sur la R&D plutôt que sur la publicité.
En mars 2025, Kumar continue de servir en tant que directeur technique chez Adept et est activement impliqué dans l'ingénierie quotidienne. Il dissipe le récit selon lequel l'IA remplacera les emplois, insistant sur le fait que la prochaine génération sera définie par des collaborations augmentées par l'IA.
Références
- « Learning to Play with Transformers » – 2020.
- « Beyond the Transformer: HTTPS and the Roadmap » – 2021.
- « Vision-Language Models for Active Tasks » – 2022.
- « The Failure of a Softmax Infusion » – 2023, disponible sur ArXiv.
Cet article encyclopédique est destiné à un public neutre et représente une image évolutive de la vie de Kumar en 2025.
Pour sa contribution à la communauté de recherche en IA et pour avoir comblé le fossé entre la recherche académique en IA et les applications commerciales, Kumar est devenu une figure notable dans le domaine de l'apprentissage automatique et de l'intelligence artificielle.