Jürgen Schmidhuber es un informático alemán y codirector científico del Instituto Dalle Molle de Investigación en Inteligencia Artificial (IDSIA) en Lugano, Suiza. Es conocido principalmente por coinventar la red de memoria a largo y corto plazo (LSTM) junto con su entonces estudiante Sepp Hochreiter en 1997, una de las arquitecturas de red neuronal recurrente más utilizadas durante dos décadas en el procesamiento del lenguaje natural y en el modelado de secuencias, antes del auge del transformador.
Carrera e investigación
Nacido en 1963 en Múnich, Schmidhuber obtuvo su doctorado en la Universidad Técnica de Múnich en 1991 y ha pasado la mayor parte de su carrera en el IDSIA, donde construyó uno de los laboratorios europeos más influyentes en la investigación de aprendizaje profundo mucho antes del estallido generalizado del campo en 2012. El grupo del IDSIA también logró éxitos prácticos tempranos en competiciones de reconocimiento de escritura e imágenes a finales de la década de 2000, utilizando redes profundas aceleradas por GPU, un trabajo que precedió, aunque en paralelo, al resultado más publicitado de AlexNet en 2012. Más allá de LSTM, su laboratorio produjo trabajos tempranos sobre entrenamiento de redes recurrentes, curiosidad artificial y motivación intrínseca para agentes de aprendizaje por refuerzo, así como las Highway Networks, un precursor de las conexiones residuales utilizadas posteriormente en clasificadores de imágenes muy profundos.
Disputas de prioridad
Schmidhuber se ha vuelto casi tan conocido por argumentar pública y repetidamente que el campo subestima su trabajo y el de sus colaboradores en comparación con investigadores como Geoffrey Hinton, Yann LeCun y Yoshua Bengio. Ha afirmado que ideas clave detrás de la retropropagación, la red generativa antagónica (atribuyendo una formulación anterior de curiosidad adversarial) y elementos de los mecanismos de atención utilizados en los transformadores fueron anticipados por trabajos anteriores afiliados al IDSIA que, según él, fueron ignorados cuando Hinton, LeCun y Bengio recibieron el Premio Turing de 2018. Estas disputas, difundidas en publicaciones de blogs, comentarios en conferencias y entrevistas, lo han convertido en una figura controvertida pero muy seguida dentro de la comunidad de investigación en inteligencia artificial, donde las cuestiones de precedencia en un campo de rápido avance se disputan con frecuencia.
Proyectos posteriores
Schmidhuber cofundó NNAISENSE, una empresa que aplica métodos basados en redes recurrentes y aprendizaje por refuerzo a problemas industriales y robóticos, y ha continuado publicando sobre sistemas de aprendizaje de propósito general y los límites teóricos de la inteligencia, manteniendo que muchas ideas ahora centrales en el aprendizaje automático y en la investigación moderna de agentes de IA se remontan más atrás de lo que se reconoce comúnmente. También ha escrito extensamente sobre teorías formales de solucionadores de problemas universales óptimos y con recursos limitados, un trabajo que sigue en gran medida fuera de la corriente principal del aprendizaje profundo industrial, pero que presenta como un camino más fundamentado a largo plazo hacia la inteligencia artificial de propósito general que el simple escalado incremental.