Andrew McCallum é professor de ciência da computação na Universidade de Massachusetts Amherst, onde lidera o Centro de Recuperação de Informação Inteligente (CIIR). Sua pesquisa se concentra em aprendizado de máquina, processamento de linguagem natural (PLN) e extração de informação, com ênfase particular em modelos gráficos probabilísticos e suas aplicações a dados textuais e da web. McCallum fez contribuições influentes em áreas como campos aleatórios condicionais, aprendizado semissupervisionado e extração de termos, e ajudou a moldar a interseção moderna entre aprendizado de máquina e compreensão de linguagem.
Nascido no início dos anos 1960, McCallum recebeu seu bacharelado em ciência da computação pelo Oberlin College em 1985. Em seguida, obteve um mestrado e um doutorado em ciência da computação pela Universidade de Toronto em 1988 e 1995, respectivamente. Durante seus estudos de doutorado, sob a supervisão de David H. D. Warren, ele explorou abordagens eficientes para análise sintática e aprendizado a partir de dados de linguagem natural. Após a formatura, passou dois anos como pesquisador de pós-doutorado na Escola de Ciência da Computação da Universidade Carnegie Mellon, onde trabalhou com classificação de texto e extração de informação usando modelos estatísticos.
Carreira Acadêmica e Contribuições de Pesquisa
McCallum ingressou na Faculdade de Ciência da Computação e Inteligência Artificial do MIT como cientista de pesquisa em 1996, onde permaneceu até 1999. No MIT, ele desenvolveu o sistema de classificação de texto Rainbows, que popularizou o uso de classificadores naive Bayes para filtragem de e-mails e documentos, e explorou métodos para aprendizado entre domínios e semissupervisionado. Em 1999, tornou-se cientista de pesquisa sênior no laboratório de pesquisa independente em Pittsburgh, Pensilvânia, mais tarde conhecido como Centro para a Base Neural da Cognição, e iniciou uma colaboração com o Centro de Pesquisa Xerox Palo Alto sobre extração de informação de literatura científica.
Em 2004, McCallum mudou-se para a UMass Amherst como professor associado, e é professor titular desde 2007. Na UMass, ele fundou o Laboratório de Extração de Informação e Síntese (IESL) e tem sido investigador principal em numerosos projetos financiados pela Fundação Nacional de Ciência, DARPA e fundações privadas. Seu trabalho inicial na UMass introduziu o conceito de "campos aleatórios condicionais" (CRFs), que ele co-inventou com John Lafferty e Fernando Pereira em 2001. Os CRFs tornaram-se uma técnica fundamental para tarefas de rotulagem sequencial, como reconhecimento de entidades nomeadas e etiquetagem de classes gramaticais, e são amplamente usados em pipelines modernos de PLN.
Algoritmos e Modelos Principais
McCallum desenvolveu vários algoritmos influentes além dos CRFs. Sua pesquisa sobre aprendizado semissupervisionado, incluindo "Expectation Maximization com dados rotulados" e métodos baseados em grafos, ajudou a estabelecer técnicas que aproveitam dados não rotulados para melhorar o desempenho do modelo. Ele também trabalhou em modelos de tópicos hierárquicos, como a "mistura de processos de Dirichlet" e o "Machado-like" para classificação multirrótulo, e em inferência escalável para modelos gráficos usando métodos variacionais. Na década de 2010, seu grupo explorou abordagens de aprendizado profundo para extração de informação, incluindo arquiteturas convolucionais e recorrentes aplicadas à análise de citações e resolução de entidades. Uma contribuição notável são as "representações de palavras" aprendidas via embeddings neurais, que McCallum pesquisou em paralelo com o word2vec, e seu trabalho sobre "supervisão distante" para extração de relações, que usa bases de conhecimento existentes para rotular automaticamente dados de treinamento para classificação de relações.
Liderança em PLN e Dados Abertos
McCallum tem sido um organizador proeminente e defensor do compartilhamento de dados e reprodutibilidade em PLN. Ele foi cofundador da iniciativa "liberar os dados" do Laboratório de Extração de Informação e Síntese, que disponibilizou benchmarks em larga escala para a comunidade de pesquisa, incluindo o "Corpus Jane Austen" e o conjunto de dados "PubMed" para extração de citações. Ele serviu em comitês de programa de conferências importantes como NeurIPS (então NIPS), ICML e a Associação de Linguística Computacional (ACL), e foi membro do conselho da Associação Americana de Inteligência Artificial (AAAI). Em 2019, ele co-organizou o workshop de Aprendizado Profundo para PLN no NeurIPS e orientou uma geração de estudantes que seguiram para posições na OpenAI, Google DeepMind e Anthropic.
Trabalho Recente e Colaboração
Nos últimos anos, a pesquisa de McCallum expandiu-se para aplicações multimodais e biomédicas holísticas. Ele colaborou com colegas da Faculdade de Medicina da UMass e do Broad Institute para construir ferramentas de extração de informação para notas clínicas e literatura genômica, incluindo o sistema Lympo para fenotipagem a partir de registros eletrônicos de saúde. Ele também atua como consultor para várias startups de IA e está ativo em discussões políticas sobre transparência e justiça em algoritmos. Em 2024, McCallum continua a lecionar cursos sobre aprendizado de máquina e PLN, supervisiona estudantes de doutorado e dirige o projeto Multi-modal Learning for Scientific and Clinical Text / (MLSciNet), que aplica modelos de linguagem de grande escala a tarefas de descoberta científica. Seu trabalho foi reconhecido com os Prêmios de Teste de Tempo do ACM SIGKDD em 2017 (pelo artigo de 2005 sobre "Classificadores em cascata" e o artigo de 2001 sobre CRF) e ele é Fellow da AAAI e da ACL.