Dan Roth (hebraico: דן רוט) é o Professor Distinto Eduardo D. Glandt de Ciência da Computação e Informação na Universidade da Pensilvânia e o Cientista Chefe de IA na Oracle. Até junho de 2024, ele foi Vice-Presidente e cientista distinto na AWS AI, onde liderou o esforço científico por trás dos produtos de IA generativa de primeira geração, incluindo os Modelos Titan, o Amazon Q e o Bedrock, desde a concepção até a disponibilidade geral. Sua pesquisa foca nos fundamentos computacionais do comportamento inteligente, particularmente na integração de métodos de aprendizado de máquina e inferência para compreensão de linguagem natural.
Roth recebeu seu B.A. summa cum laude em matemática pelo Technion em Israel e seu Ph.D. em ciência da computação pela Universidade de Harvard em 1995. Ele lecionou na Universidade de Illinois em Urbana-Champaign de 1998 a 2017 antes de se mudar para a Universidade da Pensilvânia.
Carreira acadêmica e honrarias
Roth é membro da Associação Americana para o Avanço da Ciência (AAAS), da Associação para Maquinaria Computacional (ACM), da Associação para o Avanço da Inteligência Artificial (AAAI) e da Associação de Linguística Computacional (ACL). Seu trabalho foi reconhecido com múltiplos prêmios de melhor artigo e ele atuou nos conselhos editoriais de importantes periódicos em inteligência artificial e PLN. Ele também orientou numerosos estudantes de doutorado que seguiram para posições acadêmicas e na indústria.
Contribuições de pesquisa
A pesquisa de Roth centra-se na ideia de que o aprendizado desempenha um papel central na inteligência. Ele fez contribuições seminais para a fusão de aprendizado e raciocínio, particularmente por meio dos Modelos Condicionais Restritos, que formulam problemas de PLN como tarefas de programação linear inteira (ILP). Ele também foi pioneiro no trabalho sobre aprendizado de máquina com supervisão incidental e fraca, permitindo que modelos aprendessem a partir de rótulos ruidosos ou indiretos.
Em 2008, Roth coautorou o primeiro artigo sobre aprendizado zero-shot em PLN, introduzindo o conceito de classificação sem dados, em que modelos classificam texto sem exemplos rotulados usando conhecimento externo. Ele também trabalhou em raciocínio probabilístico, incluindo sua complexidade computacional e inferência elevada probabilística, bem como métodos baseados em partes (constelação) no reconhecimento de objetos e aprendizado baseado em resposta.
Suas ferramentas desenvolvidas para extração de informação, incluindo reconhecimento de entidade nomeada (NER), resolução de correferência, wikificação, rotulação de papéis semânticos (SRL) e correção de texto ESL, são amplamente usadas tanto em pesquisa acadêmica quanto em aplicações comerciais. Essas ferramentas influenciaram trabalhos subsequentes em aprendizado profundo e grandes modelos de linguagem.
Liderança na indústria
Na AWS AI, Roth supervisionou a direção científica das iniciativas de IA generativa da empresa, ajudando a levar os modelos de fundação Titan, o assistente Amazon Q e a plataforma Bedrock ao mercado. Sua liderança uniu pesquisa acadêmica e implantação prática, garantindo que avanços em arquiteturas de transformadores e redes neurais fossem traduzidos em serviços de nuvem escaláveis.
Em 2024, ele ingressou na Oracle como Cientista Chefe de IA, onde aconselha sobre a estratégia de IA e a agenda de pesquisa da empresa. Ele também cofundou a NexLP, Inc., uma startup que aplica PLN e aprendizado de máquina a domínios jurídicos e de conformidade; a NexLP foi adquirida pela Reveal, Inc., uma empresa de software de descoberta eletrônica, em 2020.
Funções atuais e trabalho consultivo
Roth atua no conselho consultivo científico do Instituto Allen para IA, contribuindo para a pesquisa em IA e PLN. Ele continua publicando ativamente e colaborando com pesquisadores de várias instituições, focando em tópicos como aprendizado curricular, poda de modelos e métodos de inferência robusta. Seu trabalho contínuo visa desenvolver metodologias unificadas para comportamento inteligente, integrando aprendizado, raciocínio e compreensão de linguagem.
Publicações selecionadas e impacto
Roth é autor de mais de 300 artigos revisados por pares, muitos em veículos de topo como ACL, NeurIPS e AAAI. Seu artigo de 2008 sobre classificação sem dados foi altamente influente, antecipando desenvolvimentos posteriores em aprendizado zero-shot e few-shot. Sua pesquisa sobre aprendizado e inferência também informou sistemas práticos em extração de informação e resposta a perguntas, contribuindo para o campo mais amplo do processamento de linguagem natural. Ele proferiu palestras principais em grandes conferências e tem sido uma força motriz na ponte entre aprendizado estatístico e raciocínio simbólico.
Referências
- Fatos-fonte fornecidos pela Wikipédia (CC BY-SA).