Robert Elias Schapire est un informaticien américain renommé pour ses contributions à la théorie de l'apprentissage automatique et à ses applications. Il a été professeur d'informatique à l'université de Princeton avant de rejoindre Microsoft Research. Ses recherches portent sur l'apprentissage automatique théorique et appliqué, avec un accent particulier sur l'apprentissage ensembliste.
La contribution la plus significative de Schapire est le développement du boosting, une méthode fondamentale d'apprentissage ensembliste qui combine plusieurs apprenants faibles en un seul classifieur fort. Sa thèse de doctorat, The design and analysis of efficient learning algorithms, lui a valu le prix de thèse de doctorat ACM en 1991. En 1996, en collaboration avec Yoav Freund, il a inventé l'algorithme AdaBoost, une avancée qui a conduit à leur réception conjointe du prix Gödel en 2003.
Jeunesse et éducation
Schapire est né aux États-Unis. Il a poursuivi des études de premier cycle en informatique, obtenant un baccalauréat en sciences de l'université Brown en 1986. Il s'est ensuite rendu au Massachusetts Institute of Technology, où il a terminé son doctorat en génie électrique et informatique en 1991 sous la supervision de Ronald Rivest. Sa thèse a posé les fondements théoriques du boosting, démontrant que des algorithmes d'apprentissage faibles pouvaient être efficacement combinés pour obtenir des garanties d'apprentissage fortes.
Carrière académique à Princeton
Après avoir terminé son doctorat, Schapire a rejoint les laboratoires Bell d'AT&T en tant que chercheur, où il a travaillé de 1991 à 1997. Pendant cette période, il a collaboré avec Yoav Freund, un collègue chercheur, au développement d'algorithmes de boosting pratiques. En 1997, il a déménagé aux laboratoires de recherche d'AT&T, poursuivant son travail jusqu'en 2001. Il est ensuite passé au monde académique, devenant professeur d'informatique à l'université de Princeton en 2002. À Princeton, il a enseigné des cours sur l'apprentissage automatique et supervisé de nombreux étudiants diplômés, contribuant à la réputation croissante de l'université dans la recherche en intelligence artificielle.
Invention d'AdaBoost
L'algorithme AdaBoost, abréviation de Adaptive Boosting, a été introduit dans un article de 1996 par Freund et Schapire. Il répondait à une question théorique de longue date sur la possibilité de renforcer des algorithmes d'apprentissage faibles, qui ne performent que légèrement mieux que le hasard, en apprentissage fort. AdaBoost entraîne de manière itérative une séquence de classifieurs faibles, chacun se concentrant sur les exemples mal classifiés par les itérations précédentes, et les combine par un vote majoritaire pondéré. L'algorithme s'est avéré à la fois théoriquement solide et pratiquement efficace, devenant l'une des méthodes les plus influentes en apprentissage automatique. Son impact s'étend à des domaines tels que la vision par ordinateur, le traitement du langage naturel et la bioinformatique.
Recherches ultérieures et Microsoft
Schapire est resté à Princeton jusqu'en 2014, date à laquelle il a rejoint Microsoft Research en tant que chercheur principal. Chez Microsoft, il a continué à explorer l'apprentissage automatique théorique et appliqué, y compris des travaux sur les variantes du boosting, l'apprentissage en ligne et l'apprentissage interactif. Ses recherches ont influencé le développement de cadres Machine learning et ont été appliquées à des problèmes dans des domaines comme intelligence artificielle et apprentissage profond. Il a également contribué à la communauté plus large par des rôles éditoriaux et de direction de conférences.
Prix et distinctions
Les travaux de Schapire ont été largement reconnus. En plus du prix de thèse de doctorat ACM (1991) et du prix Gödel (2003), il a reçu le prix Feigenbaum de l'AAAI en 2011. Il a été élu membre de l'AAAI en 2009, membre de l'Académie nationale d'ingénierie en 2014 et membre de l'Académie nationale des sciences en 2016. Ces distinctions reflètent ses contributions fondamentales à la théorie et à la pratique de l'apprentissage ensembliste.
Œuvres choisies
Schapire a coécrit le livre Boosting: Foundations and Algorithms avec Yoav Freund, publié par MIT Press en 2012 (ISBN 978-0-262-01718-3). Ce texte complet couvre les fondements théoriques du boosting, les variations algorithmiques et les applications pratiques. Il a également publié de nombreux articles influents, y compris l'article fondateur de 1996 sur AdaBoost et des travaux ultérieurs sur la théorie des marges et le boosting multiclasse.
Héritage et impact
L'invention d'AdaBoost a eu un impact durable sur l'apprentissage automatique, influençant le développement d'autres méthodes ensemblistes telles que le gradient boosting et les forêts aléatoires. Les perspectives théoriques de Schapire sur la puissance des apprenants faibles ont façonné la compréhension du domaine sur l'apprenabilité. Son travail reste une pierre angulaire des programmes d'études modernes en apprentissage automatique et continue d'inspirer la recherche tant en théorie qu'en applications.
Vie personnelle
Les détails sur la vie personnelle de Schapire ne sont pas largement divulgués. Il est connu pour être actif dans les communautés académiques et de recherche, présentant fréquemment lors de conférences et collaborant avec des collègues de diverses institutions.
Références
- Schapire, R. E. (1991). The design and analysis of efficient learning algorithms. Thèse de doctorat, MIT.
- Freund, Y., & Schapire, R. E. (1996). Experiments with a new boosting algorithm. Proceedings of the Thirteenth International Conference on Machine Learning.
- Schapire, R. E., & Freund, Y. (2012). Boosting: Foundations and Algorithms. MIT Press.
Liens externes
- Page d'accueil de Robert Schapire (archivée le 19 janvier 2022 sur Wayback Machine)