Stuart Russell est un informaticien britannique et professeur à l'Université de Californie à Berkeley, surtout connu comme co-auteur, avec Peter Norvig, de Artificial Intelligence: A Modern Approach (AIMA), le manuel d'introduction le plus utilisé dans ce domaine depuis sa première édition en 1995.
Carrière
Né en 1962 à Portsmouth, en Angleterre, Russell a étudié la physique à Oxford avant d'obtenir un doctorat en informatique à l'Université de Stanford en 1986. Il a rejoint Berkeley la même année et y est resté depuis, travaillant sur des sujets couvrant le raisonnement probabiliste, la représentation des connaissances et l'apprentissage par renforcement. AIMA, désormais publié en plusieurs éditions, présente l'intelligence artificielle comme un domaine unifié organisé autour du concept d'agent rationnel, et a façonné la manière dont des générations d'étudiants sont initiés à ce sujet, y compris les contenus sur la recherche, la logique, la planification et l'apprentissage automatique qui sous-tendent une grande partie de l'IA moderne.
IA compatible avec l'humain
Depuis le milieu des années 2010, Russell est devenu l'une des voix académiques les plus éminentes à soutenir que le « modèle standard » de l'IA, dans lequel un système est conçu pour optimiser un objectif fixe et spécifié par l'humain, est fondamentalement risqué à mesure que les systèmes deviennent plus capables, car tout objectif mal spécifié peut être poursuivi de manière involontaire et nuisible. Dans son livre Human Compatible de 2019, il propose une alternative qu'il appelle « IA prouvablement bénéfique », dans laquelle les machines sont conçues pour rester délibérément incertaines quant aux préférences humaines et pour se soumettre à la supervision humaine, plutôt que de poursuivre avec confiance un objectif codé en dur, un cadre étroitement lié au champ plus large de la recherche sur l'alignement.
Russell a fondé et dirige le Center for Human-Compatible AI (CHAI) à Berkeley, qui étudie des approches techniques pour maintenir les systèmes d'IA avancés sous un contrôle humain significatif. Il a été signataire de la lettre de pause de 2023 appelant à un moratoire sur l'entraînement des modèles les plus puissants, et a témoigné devant des instances nationales et internationales sur les risques et la régulation de l'IA, situant son travail dans la conversation plus large sur l'sécurité de l'IA et l'risque existentiel lié à l'IA aux côtés de chercheurs tels que Yoshua Bengio. Russell a soutenu que l'objectif à long terme déclaré du domaine, construire des machines qui atteignent ou dépassent l'intelligence générale humaine dans pratiquement toutes les tâches, oblige les chercheurs à prendre au sérieux ce qui se passerait si cet objectif était atteint sans résoudre d'abord le problème du contrôle, une préoccupation également centrale pour les travaux sur la sécurité de l'intelligence artificielle générale.