Roman Yampolskiy est un informaticien et professeur à l'université de Louisville dans le Kentucky, où il dirige le laboratoire de cybersécurité. Il est largement reconnu pour ses contributions dans le domaine de la sécurité de intelligence artificielle, en se concentrant sur les risques potentiels et les implications éthiques des systèmes d'IA avancés. Ses travaux couvrent la cybersécurité, la biométrie comportementale et le développement de méthodes formelles pour vérifier le comportement des IA.
Les recherches de Yampolskiy ont influencé les discussions sur la sécurité à long terme de l'IA, en particulier concernant le problème du contrôle - comment garantir que les machines superintelligentes restent alignées sur les valeurs humaines. Il a écrit de nombreux articles et livres, notamment Artificial Intelligence Safety and Security, et intervient fréquemment lors de conférences académiques et forums publics sur l'urgence de mesures de sécurité proactives.
Formation et éducation
Yampolskiy est né en Union soviétique puis a émigré aux États-Unis. Il a obtenu son bachelor en informatique à l'université de Louisville en 2003, suivi d'un master en informatique de la même institution en 2004. Il a complété son doctorat en informatique et ingénierie à l'université de Louisville en 2008, avec une thèse consacrée à la biométrie comportementale et à la sécurité.
Durant ses études supérieures, Yampolskiy a développé un intérêt précoce pour l'intersection entre cybersécurité et IA, qui deviendra plus tard le pilier de sa carrière académique. Il a également travaillé comme assistant de recherche sur des projets impliquant la reconnaissance de formes et la détection d'anomalies.
Carrière académique
Après l'obtention de son doctorat, Yampolskiy a rejoint le corps enseignant de l'université de Louisville en tant que professeur adjoint en 2008. Il a été promu au rang de professeur associé en 2014, puis de professeur titulaire en 2020. En plus de ses responsabilités d'enseignement, il a fondé et dirige le laboratoire de cybersécurité, où il encadre des étudiants diplômés et mène des recherches sur la sécurité de l'IA, l'apprentissage automatique adversarial et la conception de logiciels sécurisés.
Yampolskiy a publié plus de 200 articles évalués par des pairs et a siégé aux comités de programmes de nombreuses conférences internationales sur l'IA et la sécurité. Il est également un réviseur fréquent pour des revues telles que Journal of Artificial Intelligence Research et IEEE Transactions on Information Forensics and Security.
Recherches sur la sécurité de l'IA
Yampolskiy est surtout connu pour ses travaux sur les risques existentiels associés à l'IA avancée. Il a soutenu que le développement de systèmes superintelligents pose un problème de contrôle fondamental, car il pourrait être impossible de contraindre pleinement une IA qui dépasse l'intelligence humaine. Dans son texte de 2015 "The Singularity and Machine Ethics," il a proposé que la sécurité de l'IA soit traitée comme un problème mathématique formel, comparable à la vérification de logiciels.
Il a également examiné le concept de "AI boxing" - l'idée de contenir un système d'IA dans un environnement restreint pour éviter des préjudices. Cependant, Yampolskiy a exprimé un scepticisme quant à la faisabilité d'une telle isolation, suggérant qu'un système suffisamment intelligent pourrait trouver des moyens de s'échapper. Son livre de 2018, Artificial Intelligence Safety and Security, compile les contributions de chercheurs de premier plan et définit une feuille de route pour les recherches futures sur la sécurité.
Cybersécurité et biométrie comportementale
En supplément de la sécurité de l'IA, Yampolskiy a apporté des contributions significatives à la cybersécurité, notamment dans le domaine de la biométrie comportementale. Ses premiers travaux ont porté sur l'utilisation des dynamiques de frappe et des modèles de mouvements de souris pour authentifier les utilisateurs, un domaine qui trouve des applications dans la détection de fraude et le contrôle d'accès. Il a également recherché des attaques adverses sur des modèles d'apprentissage automatique, démontrant comment de petites perturbations peuvent tromper les réseaux neuronaux et conduire à des prédictions incorrectes.
Ses recherches en cybersécurité ont été financées par des subventions de la National Science Foundation et du Department of Defense, et il a collaboré avec des partenaires industriels sur des systèmes d'authentification sécurisés.
Engagement public et influence
Yampolskiy représente un intellectuel public actif, apparaissant fréquemment dans les médias et les podcasts pour discuter des risques de l'IA. Il a témoigné devant des organismes gouvernementaux et participé à des ateliers organisés par des organisations telles que OpenAI et les équipes de sécurité de Google DeepMind. Ses opinions ont parfois été controversées, car il a avancé que la probabilité d'une catastrophe liée à l'IA est élevée à moins que des mesures de sécurité significatives soient mises en œuvre rapidement.
Il maintient un blog populaire et une chaîne YouTube où il explique des concepts complexes de l'IA à un public général. Il a également organisé des ateliers académiques sur la sécurité de l'IA, réunissant des chercheurs d'institutions comme MIT CSAIL et Stanford AI Lab.
Œuvres choisies
- Artificial Intelligence Safety and Security (2018)
- "The Singularity and the Machine Ethics" (2015)
- "On the Impossibility of AI Alignment" (2020)
- "Adversarial Examples in Deep Learning" (2019)
Récompenses et reconnaissance
Yampolskiy a reçu plusieurs récompenses pour ses recherches, notamment le Distinguished Faculty Award de l'université de Louisville en 2019. Il a été répertorié parmi les principaux chercheurs en sécurité de l'IA dans divers classements académiques et a été invité intervenir à l'université d'Oxford et à l'université Carnegie Mellon.
Vie personnelle
Yampolskiy réside à Louisville, dans le Kentuckykentucky, avec sa famille. Il est un passionné de jeu d'échecs et a participé à des tournois locaux. Il s'intéresse également à la philosophie de l'esprit et intègre souvent des questions philosophiques dans ses recherches sur l'IA.
Références
- Yampolskiy, R. (2018). Artificial Intelligence Safety and Security. CRC Press.
- Yampolskiy, R. (2015). "The Singularity and Machine Ethics." Journal of Consciousness Studies.
- Profil académique de l'université de Louisville.