Édouard Grave est un chercheur français en apprentissage automatique et cofondateur de la société de grands modèles de langage Mistral AI. Ses travaux portent sur les réseaux de neurones, l'apprentissage profond et les architectures de transformeurs évolutives, avec des contributions à la fois à la recherche académique et au déploiement industriel.
Grave a obtenu son doctorat à Sorbonne Université à Paris, où ses recherches doctorales ont porté sur le traitement du langage naturel et l'apprentissage de représentations. Avant de cofonder Mistral AI en 2023, il a passé plusieurs années chez Meta AI (anciennement Facebook AI Research) à Paris, où il a dirigé des équipes travaillant sur l'apprentissage auto-supervisé et les modèles neuronaux efficaces. Il a également occupé des postes de recherche dans des institutions telles que Nokia Bell Labs et l'École Normale Supérieure.
Mistral AI et fondation
En 2023, Grave a cofondé Mistral AI avec ses collègues chercheurs Arthur Mensch et Timothée Lacroix. La société a été lancée avec un accent sur les grands modèles de langage à poids ouverts, se positionnant comme une alternative européenne aux laboratoires américains comme OpenAI et Anthropic. Le premier modèle de Mistral, Mistral 7B, a été publié en septembre 2023 et a attiré l'attention pour ses performances par rapport à son nombre de paramètres.
Le rôle de Grave chez Mistral consiste à guider la recherche sur l'architecture des modèles et les méthodes d'entraînement. La société a publié des modèles ultérieurs, notamment Mixtral 8x7B, un modèle à mélange d'experts épars, et le plus grand Mistral Large, ciblant les clients d'entreprise via des fournisseurs de cloud tels que Azure, Google Cloud et Amazon Web Services. Mistral a obtenu un financement de capital-risque important, atteignant une valorisation de plusieurs milliards d'euros d'ici 2024.
Contributions à la recherche
Les travaux académiques de Grave comprennent des études sur les plongements de mots, l'efficacité des transformeurs et l'apprentissage auto-supervisé. Il a co-écrit des articles sur les représentations adaptatives de mots et des méthodes pour réduire le coût computationnel des modèles de langage neuronaux. Ses recherches ont influencé les travaux ultérieurs sur les LLM efficaces, en particulier dans des contextes avec des ressources matérielles limitées.
Chez Meta AI, Grave a travaillé sur des projets intégrant le apprentissage automatique avec des données multimodales, y compris la compréhension de texte et d'images. Il a contribué à des outils et des référentiels qui ont façonné le développement de la IA générative à la fin des années 2010 et au début des années 2020.
Engagement public
Grave a pris la parole lors de conférences et d'ateliers sur la politique de l'intelligence artificielle et les modèles open-source. Il a plaidé pour la transparence dans le développement de l'IA, arguant que les modèles à poids ouverts permettent un accès plus large à la recherche et à l'innovation. Ses déclarations publiques ont abordé les préoccupations concernant la sécurité de l'IA et la concentration du pouvoir parmi quelques grandes entreprises technologiques.
Reconnaissance et impact
En tant que cofondateur de Mistral AI, Grave a été présenté dans la presse spécialisée et les classements technologiques. La croissance rapide de la société en a fait l'une des startups d'IA les plus importantes en Europe, avec des partenariats et des déploiements dans plusieurs secteurs. Le travail de Grave fait le pont entre la théorie académique et les systèmes pratiques, contribuant aux avancées dans l'apprentissage profond et le traitement du langage naturel.
Sa carrière reflète une trajectoire allant de la recherche fondamentale dans des institutions académiques à la direction d'une entreprise commerciale de LLM, le positionnant comme une figure notable dans la vague actuelle de la IA générative.