Yoshua Bengio est un informaticien franco-canadien et l'un des trois chercheurs, aux côtés de Geoffrey Hinton et Yann LeCun, généralement crédités des travaux fondateurs qui ont rendu l'apprentissage profond pratique. Il est professeur à l'Université de Montréal et fondateur de Mila, l'un des plus grands instituts de recherche académique au monde dédié à l'apprentissage profond.
Contributions à la recherche
Né en 1964 à Paris et ayant grandi en grande partie au Canada, Bengio a obtenu un doctorat à l'Université McGill avant de rejoindre l'Université de Montréal en 1993. Au cours des années 1990 et 2000, alors que les réseaux de neurones étaient moins en vogue que des méthodes comme les machines à vecteurs de support, son laboratoire a continué à travailler sur l'apprentissage par gradient, contribuant aux premiers modèles probabilistes neuronaux du langage qui anticipaient les techniques d'intégration de mots et de séquences utilisées dans tout le traitement du langage naturel moderne. Ses étudiants et collaborateurs ont apporté des contributions majeures à la modélisation de séquences, et son groupe a formé Ian Goodfellow, qui a inventé le réseau antagoniste génératif en tant qu'étudiant du laboratoire de Bengio en 2014.
Bengio a partagé le prix Turing 2018 avec Hinton et LeCun « pour les avancées conceptuelles et techniques qui ont fait des réseaux de neurones profonds un composant critique de l'informatique ». Contrairement à LeCun, Bengio a généralement été plus aligné avec Hinton en considérant les capacités avancées de l'IA comme une source sérieuse de risque plutôt que de les minimiser.
Virage vers la sécurité de l'IA
Depuis 2023, Bengio consacre une grande partie de son profil public à la sécurité de l'IA et à la gouvernance. Il a été signataire de la lettre de mars 2023 « Pause Giant AI Experiments » (la lettre de pause) appelant à une suspension temporaire de l'entraînement des modèles les plus puissants, et il a présidé le Rapport scientifique international sur la sécurité de l'IA avancée, une initiative issue du sommet de la déclaration de Bletchley de novembre 2023 et commandée par plusieurs gouvernements pour synthétiser l'opinion d'experts sur le risque de l'IA de pointe.
Bengio a soutenu que les mêmes tendances de mise à l'échelle qui entraînent des gains rapides de capacités dans les systèmes basés sur l'architecture transformeur augmentent également la plausibilité de scénarios de perte de contrôle, et a appelé à une coordination internationale plus forte, à des tests de sécurité obligatoires et éventuellement à une réglementation contraignante, ce qui le positionne parmi les pionniers de l'apprentissage profond les plus engagés sur le plan politique concernant les questions de risque existentiel lié à l'IA et de préjudices à court terme, un domaine également étudié dans le champ plus large de la recherche sur l'alignement. Il a également proposé ses propres orientations techniques, notamment des travaux sur des « scientifiques IA » conçus pour être des outils de raisonnement fiables et non agentiques plutôt que des acteurs autonomes, reflétant un changement plus large dans son programme de recherche, passant de la capacité brute au déploiement sûr de systèmes de plus en plus puissants.