Yoshua Bengio es un informático franco-canadiense y uno de los tres investigadores, junto con Geoffrey Hinton y Yann LeCun, a quienes se les atribuye comúnmente el trabajo fundacional que hizo práctico el aprendizaje profundo. Es profesor en la Universidad de Montreal y fundador de Mila, uno de los institutos académicos de investigación en aprendizaje profundo más grandes del mundo.
Contribuciones a la investigación
Nacido en 1964 en París y criado en gran parte en Canadá, Bengio obtuvo un doctorado en la Universidad McGill antes de unirse a la Universidad de Montreal en 1993. Durante las décadas de 1990 y 2000, mientras las redes neuronales eran poco populares en comparación con métodos como las máquinas de vectores de soporte, su laboratorio siguió trabajando en el aprendizaje basado en gradientes, contribuyendo a los primeros modelos de lenguaje probabilísticos neuronales que anticiparon las técnicas de incrustación de secuencias y palabras utilizadas en el moderno procesamiento del lenguaje natural. Sus estudiantes y colaboradores realizaron contribuciones importantes al modelado de secuencias, y su grupo entrenó a Ian Goodfellow, quien inventó las redes generativas adversariales en 2014.
Bengio compartió el Premio Turing de 2018 con Hinton y LeCun por los avances conceptuales y de ingeniería que hicieron de las redes neuronales profundas un componente crítico de la computación. A diferencia de LeCun, Bengio se ha alineado generalmente más con Hinton al tratar la capacidad avanzada de la IA como una fuente seria de riesgo en lugar de descartarla.
Giro hacia la seguridad de la IA
Desde 2023, Bengio ha dedicado gran parte de su perfil público a la seguridad de la IA y la gobernanza. Fue firmante de la carta de marzo de 2023 que pedía una pausa en el entrenamiento de los modelos de IA más potentes, y presidió el Informe Científico Internacional sobre la Seguridad de la IA Avanzada, una iniciativa que surgió de la cumbre de noviembre de 2023 sobre la Declaración de Bletchley y que fue encargada por múltiples gobiernos para sintetizar la opinión experta sobre el riesgo de la IA fronteriza.
Bengio ha argumentado que las mismas tendencias de escalado que impulsan rápidos aumentos de capacidad en los sistemas construidos sobre la arquitectura transformador también aumentan la plausibilidad de escenarios de pérdida de control, y ha pedido una coordinación internacional más fuerte, pruebas de seguridad obligatorias y posiblemente una regulación vinculante, posicionándose entre los pioneros del aprendizaje profundo más comprometidos con las políticas sobre cuestiones de riesgo existencial de la IA y daños a corto plazo por igual, un área también estudiada dentro del campo más amplio de la investigación en alineación. También ha propuesto direcciones técnicas propias, incluido el trabajo en "científicos de IA" diseñados para ser herramientas de razonamiento confiables y no agénticas en lugar de actores autónomos, lo que refleja un cambio más amplio en su agenda de investigación desde la capacidad bruta hacia el despliegue seguro de sistemas cada vez más potentes.