Tomáš Mikolov es un informático checo reconocido por sus contribuciones al aprendizaje automático y a los modelos de lenguaje basados en redes neuronales. Es conocido principalmente como el autor principal del artículo de 2013 que introdujo word2vec, una técnica para aprender representaciones de palabras a partir de texto, que se convirtió en una herramienta fundamental en el procesamiento del lenguaje natural y el aprendizaje profundo. Su investigación posterior incluye trabajo sobre fastText y representaciones de palabras multilingües.
Mikolov obtuvo su doctorado en la Universidad de Tecnología de Brno y ocupó puestos de investigación en Microsoft Research, Google Brain y Facebook AI Research. En 2020, se incorporó al Instituto Checo de Informática, Robótica y Cibernética de la Universidad Técnica Checa de Praga, donde dirige un grupo de investigación centrado en modelos matemáticos escalables.
Carrera
Durante sus estudios de doctorado en la Universidad de Tecnología de Brno, Mikolov pasó tiempo en la Universidad Johns Hopkins, con una visita organizada con el apoyo de Sanjeev Khudanpur y Frederick Jelinek. También pasó varios meses en el laboratorio de aprendizaje automático de Yoshua Bengio en la Universidad de Montreal, donde trabajó en modelos de lenguaje basados en redes neuronales recurrentes.
Tras completar su doctorado en 2012, Mikolov se unió a Google Brain, parte del ecosistema de investigación de IA de Google. En 2014, se trasladó a Facebook AI Research (FAIR), donde trabajó en procesamiento del lenguaje natural e investigación más amplia en inteligencia artificial. Su tiempo en FAIR incluyó colaboraciones en clasificación eficiente de texto y representaciones multilingües.
En 2020, Mikolov regresó a la República Checa y se incorporó al Instituto Checo de Informática, Robótica y Cibernética de la Universidad Técnica Checa de Praga. Estableció un grupo de investigación que investiga modelos matemáticos que pueden aumentar en complejidad, con el objetivo de mejorar la escalabilidad y la eficiencia en el aprendizaje automático. En 2025, cofundó BottleCap AI, una empresa con sede en Praga que desarrolla modelos fundacionales eficientes.
Contribuciones de investigación
El trabajo temprano de Mikolov se centró en aplicar redes neuronales recurrentes al modelado del lenguaje. Su tesis doctoral de 2012, Statistical Language Models Based on Neural Networks, examinó enfoques de redes neuronales para predecir secuencias de texto, basándose en trabajos anteriores sobre aprendizaje secuencia a secuencia y entrenamiento de modelos de lenguaje.
En Google, lideró el desarrollo de word2vec, un método para aprender representaciones de palabras a partir de grandes colecciones de texto. El enfoque utilizaba redes neuronales superficiales para producir representaciones vectoriales densas de palabras, capturando relaciones semánticas y sintácticas. Un artículo posterior, Distributed Representations of Words and Phrases and their Compositionality, introdujo técnicas como el muestreo negativo y el submuestreo de palabras frecuentes, que mejoraron la eficiencia y la calidad del entrenamiento. Este artículo recibió el Premio Test of Time de NeurIPS 2023.
Durante su tiempo en Facebook AI Research, Mikolov coescribió trabajo sobre fastText, incluidos métodos para la clasificación de texto y representaciones de palabras basadas en subpalabras de caracteres. Esto permitió que el modelo manejara palabras fuera de vocabulario y lenguas morfológicamente ricas. También trabajó en el mapeo de representaciones de palabras entre idiomas, lo que permitió la construcción de diccionarios bilingües y la mejora de los sistemas de traducción automática sin corpus paralelos.
Impacto y legado
Word2vec se convirtió en una piedra angular de la investigación moderna en aprendizaje profundo, influyendo en desarrollos posteriores de arquitecturas transformadoras y en el entrenamiento de grandes modelos de lenguaje. Las representaciones producidas por word2vec fueron ampliamente adoptadas para tareas como el análisis de sentimientos, la recuperación de información y la traducción automática. El énfasis de Mikolov en métodos eficientes y escalables anticipó el cambio hacia los sistemas prácticos de IA generativa.
Su trabajo sobre fastText contribuyó a la clasificación eficiente de texto en entornos con recursos limitados, y su investigación sobre representaciones multilingües abrió vías para el procesamiento de lenguas con pocos recursos. A principios de la década de 2020, sus publicaciones seguían entre las más citadas en el campo del aprendizaje automático.
Trabajo actual
En el Instituto Checo de Informática, Robótica y Cibernética, el grupo de Mikolov explora modelos que pueden crecer en complejidad, abordando potencialmente las limitaciones de las redes neuronales de capacidad fija. BottleCap AI, cofundada en 2025, se centra en desarrollar modelos fundacionales eficientes, continuando su interés en reducir los costos computacionales mientras se mantiene el rendimiento. Su investigación en curso tiene como objetivo unir los conocimientos teóricos con las aplicaciones prácticas en inteligencia artificial.