Yoshua Bengio é um cientista da computação franco-canadense e um dos três pesquisadores, juntamente com Geoffrey Hinton e Yann LeCun, comumente creditados pelo trabalho fundamental que tornou o aprendizado profundo prático. Ele é professor da Université de Montréal e fundador do Mila, um dos maiores institutos acadêmicos de pesquisa em aprendizado profundo do mundo.
Contribuições de pesquisa
Nascido em 1964 em Paris e criado em grande parte no Canadá, Bengio obteve um PhD na Universidade McGill antes de ingressar na Université de Montréal em 1993. Ao longo das décadas de 1990 e 2000, enquanto redes neurais eram vistas com desconfiança em relação a métodos como máquinas de vetores de suporte, seu laboratório continuou trabalhando em aprendizado baseado em gradiente, contribuindo com modelos neurais probabilísticos de linguagem que anteciparam as técnicas de incorporação de palavras e sequências usadas em todo o processamento de linguagem natural moderno. Seus alunos e colaboradores fizeram contribuições importantes para a modelagem de sequências, e seu grupo treinou Ian Goodfellow, que inventou o rede adversária generativa como estudante do laboratório de Bengio em 2014.
Bengio compartilhou o prêmio Turing de 2018 com Hinton e LeCun, "por descobertas conceituais e avanços em engenharia que tornaram as redes neurais profundas um componente crítico da computação". Ao contrário de LeCun, Bengio tem geralmente se alinhado mais com Hinton em tratar a capacidade avançada de IA como uma fonte séria de risco, em vez de descartá-la.
Mudança em direção à segurança da IA
Desde 2023, Bengio dedicou grande parte de seu perfil público à segurança da IA e à governança. Foi signatário da carta "Pausa em Grandes Experimentos de IA" ("Pause Giant AI Experiments") de março de 2023, a carta de pausa, que apelava por uma pausa temporária no treinamento dos modelos mais poderosos, e presidiu o Relatório Científico Internacional sobre a Segurança da IA Avançada, uma iniciativa que surgiu da Declaração de Bletchley de novembro de 2023, encomendada por vários governos para sintetizar a opinião de especialistas sobre o risco de uma IA de fronteira.
Bengio tem argumentado que as mesmas tendências de escala que geram rápidos ganhos de capacidade em sistemas construídos sobre a arquitetura do transformador também aumentam a plausibilidade de cenários de perda de controle, e tem defendido maior coordenação internacional, testes de segurança obrigatórios e possivelmente regulamentação vinculante, colocando-o entre os pioneiros do aprendizado profundo mais engajados em políticas públicas nas questões de risco existencial da IA e danos de curto prazo, uma área também estudada no campo mais amplo da pesquisa em alinhamento. Ele também propôs direções técnicas próprias, incluindo trabalhos sobre "cientistas de IA" projetados para serem ferramentas confiáveis e de raciocínio não agêntico, em vez de atores autônomos, para refletir uma mudança mais ampla em sua agenda de pesquisa, de capacidade bruta para a implantação segura de sistemas cada vez mais poderosos.