Luke Zettlemoyer是华盛顿大学保罗·G·艾伦计算机科学与工程学院的教授,同时也是Meta AI的高级研究科学家。他的研究聚焦于自然语言处理(NLP),特别致力于开发语义解析、基于环境的语言理解以及大型语言模型的高效训练方法。他以在弱监督学习方面的贡献而闻名,并共同开发了DeBERTa模型架构,该架构在多项NLP基准测试中取得了最先进的结果。
Zettlemoyer于2007年在麻省理工学院获得博士学位,师从Michael Collins。在2013年加入华盛顿大学之前,他曾是伊利诺伊大学厄巴纳-香槟分校的助理教授。他还曾在微软研究院和Amazon AI担任研究职位。
研究贡献
Zettlemoyer的早期工作集中于从自然语言话语中学习语义解析器。他引入了组合范畴语法(CCG)用于弱监督语义解析,使模型能够从句子级标注而非详细逻辑形式中学习。这一研究路线影响了后续在基于环境的语言习得和问答系统方面的工作。
在2010年代,他为基于神经网络的NLP模型开发做出了贡献,包括注意力机制和记忆增强网络的研究。他在华盛顿大学的团队发表了关于多任务学习、领域适应和序列模型高效推断的有影响力的论文。
大型语言模型与Meta AI
在Meta AI,Zettlemoyer领导一个致力于大规模语言模型的团队。他是OPT和LLaMA模型家族的关键贡献者,这些是由Meta发布的开源大型语言模型。由于竞争性的性能和开放的可访问性,这些模型已被研究人员和从业者广泛采用。Zettlemoyer在高效训练方法方面的工作,如FlashAttention和梯度检查点,帮助降低了训练大型模型的计算成本。
他还参与了提高语言模型事实准确性和推理能力的努力,包括检索增强生成和思维链提示方面的工作。
教学与指导
在华盛顿大学,Zettlemoyer教授自然语言处理和机器学习的研究生课程。他指导了众多博士生,这些学生后来在学术界和工业界任职,包括在OpenAI、Google DeepMind和Anthropic的研究人员。他的指导风格强调严格的实验和对研究思想的清晰沟通。
奖项与认可
Zettlemoyer因其研究获得了多项奖项,包括美国国家科学基金会CAREER奖和斯隆研究奖学金。他是ACL和EMNLP等主要NLP会议的常任领域主席,并曾担任《计算语言学协会汇刊》的编辑委员会成员。他的工作被引用数万次,反映了其对该领域的广泛影响。
精选出版物
他引用最多的论文包括《DeBERTa: Decoding-enhanced BERT with Disentangled Attention》(2021),该文引入了一种新颖的注意力机制,提高了SuperGLUE基准上的性能,以及《OPT: Open Pre-trained Transformer Language Models》(2022),该文详细介绍了开源语言模型套件的训练和发布。他还发表了关于语义解析的有影响力论文,包括《Learning to Map Sentences to Logical Form》(2007)和《Weakly Supervised Learning of Semantic Parsers》(2012)。
Zettlemoyer仍然是一位活跃的研究者,最近对多模态模型和语言模型与人类价值观的对齐感兴趣。他的工作连接了学术研究和工业部署,使他成为人工智能领域的杰出人物。