Graham Neubig est un professeur à l'Université Carnegie Mellon connu pour ses recherches en traitement automatique des langues (TAL) et pour avoir développé des outils de TAL open source largement utilisés. Ses travaux couvrent des domaines tels que la traduction automatique, le TAL multilingue et l'intersection du TAL avec l'apprentissage automatique et l'apprentissage profond. Il a contribué à la communauté académique par de nombreuses publications et en créant des outils qui abaissent la barrière à l'entrée pour la recherche et les applications en TAL.
Les recherches de Neubig se sont concentrées sur la rendre les systèmes de TAL plus accessibles et robustes, en particulier pour les langues à faibles ressources. Il a été un défenseur de la recherche reproductible et a publié du code et des modèles permettant à d'autres de s'appuyer sur ses travaux. Ses contributions ont été reconnues par des prix et distinctions, et il est un conférencier recherché lors de conférences académiques et industrielles.
Jeunesse et Éducation
Neubig a obtenu sa licence à l'Université de Tokyo, où il a étudié l'informatique. Il a ensuite poursuivi des études supérieures dans la même institution, obtenant une maîtrise puis un doctorat en informatique. Ses recherches doctorales portaient sur la traduction automatique statistique, un domaine qui resterait un thème central dans sa carrière.
Carrière Académique
Après avoir terminé son doctorat, Neubig a rejoint la faculté de l'Institut des sciences et technologies de Nara au Japon en tant que professeur assistant. En 2016, il a déménagé à l'Université Carnegie Mellon en tant que professeur assistant à l'Institut des technologies linguistiques. Il a été promu professeur associé puis professeur titulaire. À CMU, il dirige le NeuLab, un groupe de recherche axé sur le TAL et l'apprentissage automatique.
Contributions de Recherche
Neubig a apporté des contributions significatives à plusieurs domaines du TAL. Il a publié abondamment sur la traduction automatique, y compris des travaux sur la traduction automatique neuronale, qui utilise des réseaux de neurones pour modéliser la traduction. Il a également travaillé sur des modèles multilingues capables de gérer de nombreuses langues simultanément, et sur des méthodes d'apprentissage à partir de données limitées, ce qui est crucial pour les langues à faibles ressources.
Une de ses contributions notables est le développement de logiciels open source. Il a créé la boîte à outils « NLP » (anciennement connue sous le nom de « NLP4J »), qui fournit un ensemble d'outils pour les tâches de TAL. Il a également contribué à la boîte à outils de modélisation de séquences « fairseq », largement utilisée pour entraîner des modèles transformers. Ses outils ont été adoptés à la fois par le monde académique et l'industrie, permettant une expérimentation et un déploiement plus rapides.
Plaidoyer pour l'Open Source
Neubig est un fervent partisan des logiciels open source dans la recherche. Il a publié le code de nombreux de ses articles, accompagné de documentation détaillée et de tutoriels. Il a également organisé des ateliers et des tutoriels sur l'utilisation de ces outils, contribuant à former une nouvelle génération de chercheurs en TAL. Ses efforts ont contribué à la reproductibilité de la recherche en TAL et ont rendu les techniques avancées plus accessibles.
Prix et Reconnaissances
Neubig a reçu plusieurs prix pour ses travaux. Il a été nommé Sloan Research Fellow en 2019, un honneur décerné aux scientifiques en début de carrière. Il a également reçu des prix du meilleur article lors de grandes conférences en TAL, notamment ACL et EMNLP. Ses travaux sur le TAL multilingue ont été reconnus par Google, où il a été chercheur invité.
Publications Sélectionnées
Neubig a écrit plus de 200 articles dans des revues de premier plan. Parmi ses travaux influents figurent « Neural Machine Translation of Rare Words with Subword Units », qui a introduit la tokenisation en sous-mots, une technique désormais standard en TAL. Il a également écrit « A Call for Clarity in Reporting BLEU Scores », qui a proposé des bonnes pratiques pour évaluer la traduction automatique. Son manuel « Natural Language Processing » est utilisé dans des cours à travers le monde.
Enseignement et Mentorat
À CMU, Neubig enseigne des cours sur le TAL et l'apprentissage automatique. Il est connu pour ses conférences engageantes et son engagement à encadrer les étudiants. Beaucoup de ses doctorants ont poursuivi des carrières dans le monde académique et l'industrie. Il maintient également une présence en ligne active, partageant des tutoriels et des notes de cours disponibles gratuitement.
Orientations Futures
Neubig continue d'explorer de nouvelles frontières en TAL, notamment le développement de grands modèles de langage et leurs applications. Il s'intéresse à rendre ces modèles plus efficaces et interprétables, et à garantir qu'ils fonctionnent bien pour diverses langues et domaines. Ses projets en cours visent à combler le fossé entre la recherche et le déploiement dans le monde réel.
Liens Externes
- Page d'accueil de Graham Neubig (non incluse dans le JSON en raison de la règle sur les URL externes)