Raia Hadsell est une chercheuse scientifique chez Google DeepMind, où elle dirige des travaux en robotique et en apprentissage continu. Ses recherches portent sur la capacité des agents artificiels à apprendre en continu à partir de l'expérience, à s'adapter à de nouveaux environnements et à acquérir des compétences transférables entre différentes tâches. Elle est surtout connue pour ses contributions à l'apprentissage par renforcement profond, notamment le développement du modèle RT-2 vision-langage-action pour la robotique, ainsi que pour ses travaux fondateurs sur les algorithmes d'apprentissage continu qui abordent l'oubli catastrophique dans les réseaux de neurones.
La carrière de Hadsell couvre à la fois des contextes de recherche académique et industrielle. Elle a occupé des postes dans de grandes entreprises technologiques et institutions de recherche, et ses travaux ont influencé des domaines allant de la vision par ordinateur aux systèmes autonomes. Sa recherche se caractérise par un accent sur le déploiement pratique des systèmes d'apprentissage automatique, en particulier en robotique, où l'adaptation continue est cruciale.
Vie et éducation
Raia Hadsell a obtenu son diplôme de premier cycle en informatique à la Carnegie Mellon University. Elle a ensuite poursuivi des études supérieures à la University of Toronto, où elle a obtenu une maîtrise et un doctorat en informatique. À Toronto, elle a travaillé sous la supervision de Geoffrey Hinton, un pionnier de l'apprentissage profond, et ses recherches doctorales ont porté sur les méthodes d'apprentissage pour la reconnaissance visuelle et la réduction de dimensionnalité.
Pendant son doctorat, Hadsell a développé des techniques pour apprendre des représentations de faible dimension à partir de données de haute dimension, appliquées à des tâches telles que la correspondance d'images et la navigation de robots. Sa thèse a contribué à la compréhension de la manière dont les réseaux de neurones peuvent apprendre des représentations utiles sans données étiquetées extensives, un thème qui a réapparu tout au long de sa carrière.
Carrière chez DeepMind
Hadsell a rejoint DeepMind (maintenant partie de Google DeepMind) en 2014, initialement en tant que chercheuse scientifique. Elle est devenue chercheuse scientifique principale puis directrice de recherche, dirigeant l'équipe de robotique. Chez DeepMind, elle a joué un rôle clé dans le rapprochement entre l'apprentissage en simulation et dans le monde réel, développant des algorithmes qui permettent aux robots d'apprendre à partir d'entrées sensorielles brutes et de s'améliorer par interaction.
L'une de ses contributions notables est le développement du modèle RT-2, un modèle vision-langage-action qui permet aux robots de traduire des instructions visuelles et linguistiques en actions physiques. RT-2 s'appuie sur des architectures transformers à grande échelle et des grands modèles de langage, démontrant que le contrôle robotique peut bénéficier d'un pré-entraînement sur des données à l'échelle d'Internet. Ce travail représente une étape significative vers des robots polyvalents capables d'effectuer une grande variété de tâches dans des environnements non structurés.
Recherche sur l'apprentissage continu
Un thème central des recherches de Hadsell est l'apprentissage continu, c'est-à-dire la capacité d'un modèle à apprendre de nouvelles tâches sans oublier les connaissances précédemment acquises. Dans un article fondateur de 2016, elle et ses collègues ont introduit le concept de consolidation de poids élastique (EWC), une méthode qui ralentit l'apprentissage sur les poids importants pour les tâches précédentes, atténuant ainsi l'oubli catastrophique. Ce travail est devenu une pierre angulaire de la littérature sur l'apprentissage continu et a inspiré de nombreuses études ultérieures.
Hadsell a également exploré d'autres approches de l'apprentissage continu, notamment les réseaux neuronaux progressifs et PathNet, qui permettent le transfert de connaissances entre tâches tout en préservant les compétences anciennes. Ses recherches soulignent l'importance de concevoir des systèmes d'apprentissage capables de fonctionner dans des environnements non stationnaires, une exigence pour des applications réelles telles que la robotique et la conduite autonome.
Robotique et apprentissage par renforcement
Dans le domaine de la robotique, Hadsell s'est concentrée sur l'apprentissage par renforcement profond, où les agents apprennent des politiques par essais et erreurs. Son équipe a développé des méthodes de transfert sim-vers-réel, permettant aux robots entraînés en simulation de fonctionner efficacement dans le monde physique. Cela inclut des techniques de randomisation de domaine et de contrôle adaptatif qui tiennent compte des écarts entre les dynamiques simulées et réelles.
Hadsell a également travaillé sur l'apprentissage multitâche, où une seule politique peut effectuer plusieurs tâches, et sur l'apprentissage par renforcement hiérarchique, qui décompose des tâches complexes en sous-tâches. Ses recherches ont été appliquées à la manipulation robotique, à la navigation et à la locomotion, avec des démonstrations sur diverses plateformes robotiques, y compris des bras et des robots à pattes.
Publications clés et impact
Hadsell a écrit ou coécrit de nombreux articles influents en apprentissage automatique et en robotique. Son article de 2016 sur l'EWC, publié dans les Proceedings of the National Academy of Sciences, a été cité des milliers de fois et est considéré comme une contribution fondatrice à l'apprentissage continu. Son travail sur RT-2, publié en 2023, a été largement couvert par les médias et a influencé la direction de la recherche en IA incarnée.
Elle a également contribué au développement de l'architecture ResNet, devenue une norme en vision par ordinateur, et a publié sur des sujets tels que l'apprentissage par curriculum et la augmentation de données. Ses recherches ont été reconnues par plusieurs prix, notamment un prix du meilleur article à la Conférence internationale sur les représentations d'apprentissage (ICLR) pour son travail sur l'EWC.
Collaborations et leadership
En tant que directrice chez Google DeepMind, Hadsell a dirigé une équipe de chercheurs et d'ingénieurs, favorisant des collaborations à travers l'organisation. Elle a travaillé avec des chercheurs tels que Koray Kavukcuoglu, un autre scientifique de DeepMind, sur des projets de robotique et d'apprentissage par renforcement. Son leadership a été déterminant pour façonner le programme de recherche de DeepMind en intelligence incarnée.
Hadsell a également été active dans la communauté de recherche plus large, siégeant à des comités de programme pour des conférences majeures telles que NeurIPS, ICML et ICLR, et donnant des conférences invitées dans des universités et lors d'événements industriels. Elle a plaidé pour un développement responsable de l'IA, soulignant l'importance de la sécurité et de la robustesse dans les systèmes déployés.
Prix et reconnaissance
Les contributions de Hadsell ont été reconnues par plusieurs distinctions. En plus du prix du meilleur article à l'ICLR, elle a reçu un prix de recherche Google et a été nommée conférencière distinguée par l'Association for Computing Machinery (ACM). Son travail a été présenté dans des médias de vulgarisation scientifique, et elle a été invitée à s'exprimer lors de forums internationaux sur l'IA et la robotique.
Travaux actuels et orientations futures
En 2024, Hadsell continue de diriger la recherche chez Google DeepMind, en se concentrant sur l'augmentation de l'apprentissage robotique et l'intégration de grands modèles de langage avec l'action physique. Ses travaux récents explorent l'utilisation de l'IA générative pour créer des données d'entraînement synthétiques pour les robots, ainsi que le développement de modèles de fondation pour la robotique capables de généraliser à travers les tâches et les incarnations.
Elle s'intéresse également à l'intersection de l'apprentissage continu et de la sécurité de l'intelligence artificielle, étudiant comment construire des systèmes capables de s'adapter à de nouvelles situations sans compromettre les performances sur les capacités existantes. Sa vision est de créer des robots capables d'apprendre tout au long de leur vie, un peu comme les humains, acquérant de nouvelles compétences tout en conservant les anciennes.
Héritage et influence
Les recherches de Raia Hadsell ont eu un impact durable sur les domaines de l'apprentissage profond, de l'apprentissage par renforcement et de la robotique. Son travail sur l'apprentissage continu a fourni une base théorique et pratique pour aborder l'oubli catastrophique, un problème qui reste central pour le développement de systèmes d'apprentissage tout au long de la vie. Ses contributions à l'apprentissage robotique ont repoussé les limites de ce qui est possible en IA incarnée, démontrant que le pré-entraînement à grande échelle peut être efficacement transféré à l'action physique.
Son influence s'étend au-delà de ses publications ; elle a encadré de nombreux étudiants et chercheurs juniors, dont beaucoup ont apporté leurs propres contributions au domaine. Grâce à son leadership chez Google DeepMind, elle a contribué à façonner la direction de l'une des principales organisations de recherche en IA au monde.
Voir aussi
- Google DeepMind
- Apprentissage continu
- Apprentissage par renforcement
- Robotique
Références
- Kirkpatrick, J., Pascanu, R., Rabinowitz, N., et al. (2017). Overcoming catastrophic forgetting in neural networks. Proceedings of the National Academy of Sciences.
- Zoph, B., et al. (2023). RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control. arXiv.
- Hadsell, R., Chopra, S., & LeCun, Y. (2006). Dimensionality Reduction by Learning an Invariant Mapping. CVPR.
- Rusu, A. A., et al. (2016). Progressive Neural Networks. arXiv.
Liens externes
- Profil Google Scholar
- Page de recherche Google DeepMind