Tomáš Mikolov é um cientista da computação tcheco reconhecido por suas contribuições para aprendizado de máquina e modelos de linguagem baseados em redes neurais. Ele é mais conhecido como o autor principal do artigo de 2013 que introduziu o word2vec, uma técnica para aprender representações vetoriais de palavras a partir de texto, que se tornou uma ferramenta fundamental em processamento de linguagem natural e aprendizado profundo. Sua pesquisa posterior inclui trabalhos sobre fastText e representações de palavras multilíngues.
Mikolov obteve seu doutorado na Universidade de Tecnologia de Brno e ocupou posições de pesquisa na Microsoft Research, Google Brain e Facebook AI Research. Em 2020, ele ingressou no Instituto Tcheco de Informática, Robótica e Cibernética da Universidade Técnica Tcheca em Praga, onde lidera um grupo de pesquisa focado em modelos matemáticos escaláveis.
Carreira
Durante seus estudos de doutorado na Universidade de Tecnologia de Brno, Mikolov passou um período na Universidade Johns Hopkins, com uma visita organizada com o apoio de Sanjeev Khudanpur e Frederick Jelinek. Ele também passou vários meses no laboratório de aprendizado de máquina de Yoshua Bengio na Universidade de Montreal, onde trabalhou em modelos de linguagem baseados em redes neurais recorrentes.
Após concluir seu doutorado em 2012, Mikolov ingressou no Google Brain, parte do ecossistema de pesquisa em IA do Google. Em 2014, ele mudou-se para o Facebook AI Research (FAIR), onde trabalhou em processamento de linguagem natural e pesquisa mais ampla em inteligência artificial. Seu tempo no FAIR incluiu colaborações em classificação eficiente de texto e representações multilíngues.
Em 2020, Mikolov retornou à República Tcheca e ingressou no Instituto Tcheco de Informática, Robótica e Cibernética da Universidade Técnica Tcheca em Praga. Ele estabeleceu um grupo de pesquisa que investiga modelos matemáticos que podem aumentar em complexidade, visando melhorar a escalabilidade e a eficiência em aprendizado de máquina. Em 2025, ele cofundou a BottleCap AI, uma empresa sediada em Praga que desenvolve modelos de base eficientes.
Contribuições de Pesquisa
O trabalho inicial de Mikolov focou na aplicação de redes neurais recorrentes à modelagem de linguagem. Sua tese de doutorado de 2012, Statistical Language Models Based on Neural Networks, examinou abordagens de redes neurais para prever sequências de texto, com base em trabalhos anteriores em aprendizado sequência a sequência e treinamento de modelos de linguagem.
No Google, ele liderou o desenvolvimento do word2vec, um método para aprender representações vetoriais de palavras a partir de grandes coleções de texto. A abordagem usava redes neurais rasas para produzir representações vetoriais densas de palavras, capturando relações semânticas e sintáticas. Um artigo de acompanhamento, Distributed Representations of Words and Phrases and their Compositionality, introduziu técnicas como amostragem negativa e subamostragem de palavras frequentes, que melhoraram a eficiência e a qualidade do treinamento. Este artigo recebeu o Prêmio de Teste do Tempo do NeurIPS de 2023.
Durante seu tempo no Facebook AI Research, Mikolov coautorou trabalhos sobre fastText, incluindo métodos para classificação de texto e representações de palavras baseadas em subpalavras de caracteres. Isso permitiu que o modelo lidasse com palavras fora do vocabulário e línguas morfologicamente ricas. Ele também trabalhou no mapeamento de representações de palavras entre línguas, permitindo a construção de dicionários bilíngues e melhorando sistemas de tradução automática estatística sem corpora paralelos.
Impacto e Legado
O word2vec tornou-se uma pedra angular da pesquisa moderna em aprendizado profundo, influenciando desenvolvimentos posteriores em arquiteturas transformer e treinamento de modelos de linguagem de grande escala. As representações vetoriais produzidas pelo word2vec foram amplamente adotadas para tarefas como análise de sentimentos, recuperação de informações e tradução automática. A ênfase de Mikolov em métodos eficientes e escaláveis antecipou a mudança em direção a sistemas práticos de IA generativa.
Seu trabalho sobre fastText contribuiu para a classificação eficiente de texto em ambientes com recursos limitados, e sua pesquisa sobre representações multilíngues abriu caminhos para o processamento de línguas com poucos recursos. No início da década de 2020, suas publicações permaneciam entre as mais citadas no campo do aprendizado de máquina.
Trabalho Atual
No Instituto Tcheco de Informática, Robótica e Cibernética, o grupo de Mikolov explora modelos que podem crescer em complexidade, potencialmente abordando limitações de redes neurais de capacidade fixa. A BottleCap AI, cofundada em 2025, foca no desenvolvimento de modelos de base eficientes, continuando seu interesse em reduzir custos computacionais enquanto mantém o desempenho. Sua pesquisa em andamento visa unir insights teóricos com aplicações práticas em inteligência artificial.