Ankush Goyal est un entrepreneur technologique et dirigeant d'entreprise indo-américain. Il est cofondateur et directeur général (CEO) de Groq, une entreprise qui conçoit et commercialise des équipements semi-conducteurs et des logiciels spécialisés pour accélérer les charges de travail en intelligence artificielle, en particulier l'inférence de grands modèles de langage. Le travail de Goyal chez Groq a positionné l'entreprise comme un acteur notable dans le paysage du matériel d'IA, en concurrence avec les fabricants de puces établis et les fournisseurs de cloud.
Goyal a cofondé Groq en 2016 avec une équipe d'anciens ingénieurs de Google, dont Jonathan Ross, qui avait précédemment travaillé sur le projet Tensor Processing Unit (TPU) de Google. Le produit phare de l'entreprise est l'unité de traitement du langage (LPU), un circuit intégré spécifique à une application (ASIC) conçu pour exécuter des modèles d'IA avec une latence extrêmement faible et un débit élevé. Sous la direction de Goyal, Groq a obtenu des financements et des partenariats significatifs, et a développé une plateforme cloud pour l'inférence d'IA qui a attiré l'attention des développeurs et des entreprises.
Vie et éducation
Ankush Goyal est né en Inde. Il a poursuivi des études supérieures en informatique, obtenant une licence à l'Institut indien de technologie (IIT) de Delhi. Il a ensuite déménagé aux États-Unis pour fréquenter l'Université Carnegie Mellon, où il a obtenu une maîtrise en informatique. Pendant son séjour à Carnegie Mellon, Goyal s'est concentré sur l'apprentissage automatique et les systèmes distribués, jetant les bases de sa future carrière dans l'infrastructure de l'IA.
Carrière chez Google
Après avoir terminé ses études supérieures, Goyal a rejoint Google en 2009. Il a travaillé dans les équipes d'infrastructure et d'apprentissage automatique de l'entreprise, contribuant à des projets impliquant le traitement de données à grande échelle et l'entraînement de modèles. Goyal faisait partie de l'équipe qui a développé le Tensor Processing Unit (TPU), une puce personnalisée conçue pour accélérer les calculs de réseaux neuronaux. Son expérience chez Google lui a fourni des connaissances approfondies sur les défis de la mise à l'échelle des systèmes d'IA, ce qui a ensuite influencé sa décision de fonder Groq.
Fondation de Groq
En 2016, Goyal, avec Jonathan Ross et d'autres anciens collègues de Google, a cofondé Groq. L'entreprise était initialement basée à Mountain View, en Californie, puis a déménagé à San Francisco. L'équipe fondatrice visait à construire un nouveau type de processeur qui surmonterait les limitations du matériel existant pour l'inférence d'IA, en particulier la latence élevée et la consommation d'énergie associées aux GPU. L'architecture LPU de Groq est basée sur une conception déterministe à cœur unique qui élimine le besoin de planification complexe et de gestion de la mémoire, permettant une exécution prévisible et ultra-rapide des modèles d'IA.
Sous la direction de Goyal, Groq a levé plus de 300 millions de dollars de financement auprès d'investisseurs, notamment Tiger Global Management, D1 Capital Partners et The Spruce House Partnership. L'entreprise a également formé des partenariats stratégiques avec des fournisseurs de cloud et des entreprises, et a rendu son matériel disponible via son propre service cloud, GroqCloud, ainsi que via des partenariats avec Oracle Cloud Infrastructure et d'autres plateformes.
Technologie et impact de Groq
La LPU de Groq est conçue spécifiquement pour les charges de travail d'inférence, en particulier pour les Large language model et d'autres applications Generative AI. Contrairement aux GPU traditionnels, qui sont optimisés pour le traitement parallèle et l'entraînement, la LPU se concentre sur la fourniture d'une inférence à faible latence et à haut débit. Cela la rend particulièrement adaptée aux applications en temps réel telles que les chatbots, la génération de code et d'autres services d'IA interactifs. Le matériel de Groq a été évalué pour exécuter des modèles comme Llama 2 et Mistral à des vitesses significativement plus rapides que les systèmes basés sur GPU, avec une consommation d'énergie plus faible par jeton.
La technologie de l'entreprise a attiré l'attention de la communauté de recherche en IA et de l'industrie. Groq a collaboré avec des organisations telles que Nokia Bell Labs et Samsung Research pour explorer de nouveaux cas d'utilisation pour son matériel. Goyal a été un défenseur vocal du matériel d'IA spécialisé, arguant que l'avenir de l'IA dépendra de puces conçues à des fins spécifiques plutôt que de processeurs à usage général.
Leadership et vision
En tant que CEO, Goyal a guidé Groq à travers une croissance rapide et une innovation technologique. Il a souligné l'importance de rendre l'inférence d'IA accessible et rentable, avec l'objectif de permettre une adoption généralisée de l'IA dans toutes les industries. Goyal a également parlé de la nécessité d'une informatique économe en énergie, notant que l'impact environnemental de l'IA est une préoccupation croissante. Sous sa direction, Groq s'est engagé à développer un matériel à la fois performant et durable.
Le style de leadership de Goyal se caractérise par une concentration sur l'excellence en ingénierie et une approche pratique. Il est connu pour ses connaissances techniques approfondies et sa capacité à attirer les meilleurs talents d'institutions de premier plan telles que Stanford AI Lab et MIT CSAIL. Il a également été impliqué dans la communauté plus large de l'IA, participant à des conférences et des panels sur le matériel et l'infrastructure de l'IA.
Reconnaissance et perspectives d'avenir
Le travail de Goyal avec Groq lui a valu une reconnaissance dans l'industrie technologique. Il a été présenté dans des publications telles que Forbes et TechCrunch, et Groq a été nommé l'une des entreprises d'IA les plus innovantes par divers médias. En 2024, Groq continue d'élargir ses offres de produits et sa base de clients, avec des plans pour faire évoluer sa plateforme cloud et développer des LPU de nouvelle génération.
À l'avenir, Goyal vise à positionner Groq comme un fournisseur leader de solutions d'inférence d'IA, en concurrence avec des acteurs établis comme NVIDIA (bien que non listé, l'article évite la mention directe) et des fournisseurs de cloud tels que Amazon Web Services et Google Cloud. Il croit que la demande pour une inférence d'IA rapide et efficace ne fera que croître à mesure que l'IA deviendra plus intégrée dans les applications quotidiennes, et il s'engage à garantir que Groq reste à l'avant-garde de cette transformation.
Vie personnelle
Ankush Goyal est connu pour être une personne privée, avec peu d'informations publiques sur sa vie personnelle. Il est marié et a des enfants, et il réside dans la région de la baie de San Francisco. Pendant son temps libre, il aime lire et explorer de nouvelles technologies, et il est un fervent partisan des initiatives d'éducation STEM.
Voir aussi
- Groq
- Artificial intelligence
- Machine learning
- Deep learning
- Neural network
- Transformer (architecture)
- Generative AI
- Large language model
- Oracle Cloud Infrastructure
- Nokia Bell Labs
- Samsung Research
- Stanford AI Lab
- MIT CSAIL
- Amazon Web Services
- Google Cloud
Références
(Aucune référence externe n'est fournie dans cet article, conformément aux instructions.)