Norbert Wiener (1894-1964) foi um matemático americano que fundou o campo da cibernética, o estudo do controle e da comunicação em animais e máquinas, e foi um dos primeiros cientistas proeminentes a alertar publicamente sobre as consequências sociais da automação.
Carreira matemática
Menino prodígio que entrou no Tufts College aos onze anos e recebeu um PhD de Harvard aos dezoito, Wiener trabalhou em diversas áreas da matemática, incluindo processos estocásticos e análise de Fourier, antes de se voltar para o estudo de sistemas de feedback e controle durante e após a Segunda Guerra Mundial, quando trabalhou em sistemas de controle antiaéreo que precisavam prever a posição futura de um alvo em manobra.
Cibernética
Em seu livro de 1948 "Cibernética: Ou Controle e Comunicação no Animal e na Máquina", Wiener argumentou que os loops de feedback, mecanismos pelos quais a saída de um sistema é medida e usada para ajustar seu comportamento futuro, forneciam uma estrutura unificadora para compreender processos de controle na engenharia, na biologia e na sociedade igualmente. O conceito de feedback descrito no livro fundamenta sistemas autorreguladores em toda a engenharia moderna e teve uma influência formativa no pensamento inicial sobre máquinas autocorretivas e adaptativas, uma linhagem que percorre trabalhos posteriores em aprendizado por reforço, onde um agente ajusta o comportamento com base em sinais de recompensa.
Alertas sobre automação
Diferentemente de muitos de seus contemporâneos, Wiener estava profundamente preocupado com os efeitos sociais da tecnologia que ajudou a criar. Seu livro de 1950 "O Uso Humano dos Seres Humanos" estendeu ideias cibernéticas à sociedade e alertou que a automação impulsionada por máquinas controladas por feedback poderia deslocar trabalhadores e concentrar poder, argumentos que anteciparam debates posteriores em ética de IA e governança de IA sobre os efeitos trabalhistas e sociais de sistemas automatizados cada vez mais capazes. Ele era notavelmente cético quanto ao uso de máquinas cibernéticas para tomada de decisão militar, alertando contra a delegação de julgamentos consequentes a sistemas que não poderiam ser responsabilizados, uma preocupação ecoada em discussões modernas sobre segurança de IA e armas autônomas.
Legado
Embora Wiener anteceda a fundação formal da inteligência artificial no workshop de Dartmouth de 1956 e não fizesse parte daquela comunidade, que incluía os mais jovens John McCarthy e Marvin Minsky, sua estrutura de feedback e autorregulação é considerada um precursor intelectual direto do campo, e a cibernética é frequentemente descrita como uma disciplina irmã da IA inicial. Seus alertas precoces sobre automação e responsabilização são frequentemente citados como alguns dos primeiros exemplos do que mais tarde seria reconhecido como preocupações de segurança de IA e ética de IA, muito antes de a tecnologia existir para torná-las concretas.