Norbert Wiener (1894-1964) était un mathématicien américain qui a fondé le domaine de la cybernétique, l'étude du contrôle et de la communication chez les animaux et les machines, et fut parmi les premiers scientifiques éminents à avertir publiquement des conséquences sociales de l'automatisation.
Carrière mathématique
Enfant prodige entré au Tufts College à onze ans et titulaire d'un doctorat de Harvard à dix-huit ans, Wiener a travaillé dans divers domaines des mathématiques, notamment les processus stochastiques et l'analyse de Fourier, avant de se tourner vers l'étude des systèmes de rétroaction et de contrôle pendant et après la Seconde Guerre mondiale, lorsqu'il a travaillé sur des systèmes de conduite de tir antiaériens devant prédire la position future d'une cible en manœuvre.
Cybernétique
Dans son livre de 1948 "Cybernetics: Or Control and Communication in the Animal and the Machine", Wiener soutenait que les boucles de rétroaction, mécanismes par lesquels la sortie d'un système est mesurée et utilisée pour ajuster son comportement futur, fournissaient un cadre unificateur pour comprendre les processus de contrôle dans l'ingénierie, la biologie et la société. Le concept de rétroaction décrit dans le livre sous-tend les systèmes autorégulés dans toute l'ingénierie moderne et a eu une influence formatrice sur les premières réflexions concernant les machines auto-correctrices et adaptatives, une lignée qui traverse les travaux ultérieurs en Reinforcement learning, où un agent ajuste son comportement en fonction de signaux de récompense.
Avertissements sur l'automatisation
Contrairement à beaucoup de ses contemporains, Wiener était profondément préoccupé par les effets sociétaux de la technologie qu'il avait contribué à créer. Son livre de 1950 "The Human Use of Human Beings" étendait les idées cybernétiques à la société et avertissait que l'automatisation pilotée par des machines à rétroaction pourrait déplacer les travailleurs et concentrer le pouvoir, des arguments qui anticipaient les débats ultérieurs en AI ethics et AI governance sur les effets du travail et de la société des systèmes automatisés de plus en plus capables. Il était particulièrement sceptique quant à l'utilisation de machines cybernétiques pour la prise de décision militaire, avertissant contre la délégation de jugements conséquents à des systèmes qui ne pouvaient pas être tenus responsables, une préoccupation reprise dans les discussions modernes sur AI safety et les armes autonomes.
Héritage
Bien que Wiener précède la fondation formelle de intelligence artificielle lors du atelier de Dartmouth de 1956 et ne faisait pas lui-même partie de cette communauté, qui comprenait les plus jeunes John McCarthy et Marvin Minsky, son cadre de rétroaction et d'autorégulation est considéré comme un précurseur intellectuel direct du domaine, et la cybernétique est souvent décrite comme une discipline sœur de l'IA précoce. Ses avertissements précoces sur l'automatisation et la responsabilité sont fréquemment cités comme quelques-unes des premières instances de ce qui serait plus tard reconnu comme des préoccupations de sécurité de l'IA et d'éthique de l'IA, bien avant que la technologie n'existe pour les rendre concrètes.