Norbert Wiener (1894-1964) fue un matemático estadounidense que fundó el campo de la cibernética, el estudio del control y la comunicación en animales y máquinas, y fue uno de los primeros científicos prominentes en advertir públicamente sobre las consecuencias sociales de la automatización.
Carrera matemática
Niño prodigio que ingresó en el Tufts College a los once años y obtuvo un doctorado en Harvard a los dieciocho, Wiener trabajó en diversas áreas de las matemáticas, incluidos los procesos estocásticos y el análisis de Fourier, antes de dedicarse al estudio de los sistemas de retroalimentación y control durante y después de la Segunda Guerra Mundial, cuando trabajó en sistemas de control de fuego antiaéreo que debían predecir la posición futura de un objetivo en maniobra.
Cibernética
En su libro de 1948 "Cibernética: o control y comunicación en el animal y la máquina", Wiener argumentó que los bucles de retroalimentación, mecanismos mediante los cuales se mide la salida de un sistema y se utiliza para ajustar su comportamiento futuro, proporcionaban un marco unificador para comprender los procesos de control en la ingeniería, la biología y la sociedad por igual. El concepto de retroalimentación descrito en el libro subyace a los sistemas autorreguladores en toda la ingeniería moderna y tuvo una influencia formativa en los primeros pensamientos sobre máquinas autocorrectivas y adaptativas, un linaje que continúa a través de trabajos posteriores en aprendizaje por refuerzo, donde un agente ajusta su comportamiento basándose en señales de recompensa.
Advertencias sobre la automatización
A diferencia de muchos de sus contemporáneos, Wiener estaba profundamente preocupado por los efectos sociales de la tecnología que ayudó a crear. Su libro de 1950 "El uso humano de los seres humanos" extendió las ideas cibernéticas a la sociedad y advirtió que la automatización impulsada por máquinas con control de retroalimentación podría desplazar a los trabajadores y concentrar el poder, argumentos que anticiparon debates posteriores en ética de la IA y gobernanza de la IA sobre los efectos laborales y sociales de los sistemas automatizados cada vez más capaces. Fue notablemente escéptico sobre el uso de máquinas cibernéticas para la toma de decisiones militares, advirtiendo contra la delegación de juicios consecuentes a sistemas que no podían ser considerados responsables, una preocupación que se refleja en las discusiones modernas sobre seguridad de la IA y armas autónomas.
Legado
Aunque Wiener precede a la fundación formal de la inteligencia artificial en el taller de Dartmouth de 1956 y no formó parte de esa comunidad, que incluía a los más jóvenes John McCarthy y Marvin Minsky, su marco de retroalimentación y autorregulación se considera un precursor intelectual directo del campo, y la cibernética se describe a menudo como una disciplina hermana de la IA temprana. Sus primeras advertencias sobre la automatización y la responsabilidad se citan con frecuencia como algunos de los primeros ejemplos de lo que más tarde se reconocería como preocupaciones de seguridad y ética de la IA, mucho antes de que existiera la tecnología para hacerlas concretas.