Vladimir Vapnik es un matemático y científico informático nacido en la Unión Soviética, conocido principalmente por cofundar la teoría del aprendizaje estadístico y por coinventar la máquina de vectores de soporte (SVM), uno de los algoritmos más utilizados en aprendizaje automático antes del resurgimiento del aprendizaje profundo después de 2012.
Teoría del aprendizaje estadístico
Nacido en 1936 en la Unión Soviética, Vapnik trabajó en el Instituto de Ciencias de Control en Moscú, donde, a partir de la década de 1960, él y Alexey Chervonenkis desarrollaron lo que se conocería como teoría de VC, por sus iniciales. La teoría de VC proporciona un marco matemático para comprender cuándo un algoritmo de aprendizaje entrenado con datos finitos generalizará bien a ejemplos nuevos y no vistos, formalizado mediante el concepto de dimensión de VC, una medida de la complejidad de una clase de funciones. Este trabajo otorgó al campo del aprendizaje supervisado una base teórica sólida para razonar sobre el equilibrio entre ajustar estrechamente los datos de entrenamiento y evitar el sobreajuste, una preocupación que más tarde se abordó en las redes neuronales mediante técnicas como la regularización y el dropout.
Máquinas de vectores de soporte
Después de mudarse a los Estados Unidos en 1990 y unirse a los Laboratorios Bell de AT&T, Vapnik y colegas, incluida Corinna Cortes, desarrollaron la máquina de vectores de soporte moderna a principios de la década de 1990, extendiendo ideas anteriores de clasificadores lineales con el "truco del kernel", que permite a una SVM encontrar fronteras de decisión no lineales al mapear implícitamente los datos a un espacio de mayor dimensión. Respaldadas por las garantías de generalización de la teoría de VC, las SVM se convirtieron en una alternativa dominante y matemáticamente bien comprendida a las redes neuronales durante las décadas de 1990 y 2000, utilizadas ampliamente en clasificación de texto, bioinformática y visión por computadora, en un período en que la investigación en redes neuronales estaba fuera de moda tras la reducción de financiamiento del segundo invierno de la IA.
Carrera posterior
Vapnik trabajó más tarde en los Laboratorios NEC, en Facebook AI Research (parte de Meta AI), y como profesor en la Universidad de Columbia y la Universidad de Londres. Su libro de 1995, The Nature of Statistical Learning Theory, sigue siendo una referencia estándar. Aunque las SVM fueron finalmente superadas por las redes neuronales profundas en la mayoría de las tareas de percepción a gran escala una vez que los datos y la capacidad de cómputo suficientes hicieron práctico el entrenamiento de extremo a extremo mediante descenso de gradiente, el marco teórico de Vapnik continúa informando cómo los investigadores piensan sobre la generalización, la complejidad de muestra y los límites de lo que una cantidad dada de datos de entrenamiento puede sustentar.