诺亚·史密斯是华盛顿大学保罗·G·艾伦计算机科学与工程学院的教授，他在那里领导自然语言处理（NLP）领域的研究。他因对机器学习和深度学习的贡献而受到认可，特别是在大型语言模型的开发与评估方面。在加入教职之前，他曾任艾伦人工智能研究所（AI2）的高级研究员，参与了语义解析和模型可解释性相关的项目。
史密斯于2006年在马里兰大学获得计算机科学博士学位，师从菲利普·雷斯尼克。他的博士论文《统计机器翻译模型的适应性》为后来在领域适应和结构化预测方面的工作奠定了基础。随后，他在多伦多大学担任博士后职位，之后于2007年成为卡内基梅隆大学的助理教授。
研究贡献
史密斯的早期工作集中在统计机器翻译和句法分析上。他合著了论文《用于统计机器翻译的判别训练和最大熵模型》（2006年），该论文引入了一个判别框架，提高了翻译质量。2011年，他与学生共同发表了《结构化稀疏性与LASSO的泛化》，推进了高维学习中稀疏性理论的发展。
他职业生涯中的很大一部分致力于神经网络方法。他2016年的论文《用于句子建模的卷积神经网络》（与Yejin Choi等人合作）展示了卷积神经网络如何捕捉组合语义。他还研究了Transformer架构，参与了2018年的研究《深度上下文化的词表示》（与Matthew Peters等人合作），该研究引入了ELMo模型，影响了后来的大型语言模型，如BERT。
在AI2和华盛顿大学的工作
从2014年到2019年，史密斯在AI2担任联合职务，领导Semantic Scholar团队。在他的指导下，Semantic Scholar成为一个广泛使用的学术搜索引擎，利用NLP从科学论文中提取结构化数据。他还为AI2的Aristo项目做出了贡献，该项目旨在回答科学考试问题，并参与了AllenNLP库的开发，这是一个开源NLP工具包，已在研究和教育中被采用。
在华盛顿大学，史密斯指导了众多博士生，他们后来在学术界和工业界担任重要职位。他还参与了与OpenAI相关的研究社区的发展，尽管他保持独立的学术立场。他的教学包括NLP和深度学习的研究生课程，并曾在ACL、EMNLP和NeurIPS等主要会议的项目委员会任职。
奖项与认可
史密斯于2010年因其结构化预测研究获得美国国家科学基金会CAREER奖。2017年，他因对统计NLP和机器翻译的贡献被命名为ACL会士。他还在ACL 2013和EMNLP 2015上获得最佳论文奖，他关于ELMo的工作是NAACL 2018最佳论文的一部分。2020年，他当选为计算语言学协会董事会成员。
近期方向
近年来，史密斯专注于生成式AI的社会影响。他发表了关于大型语言模型可靠性和偏见的分析，包括2023年发表在《自然机器智能》期刊上的论文《评估大型语言模型的挑战》。他还倡导开放研究实践，发布其项目的代码和数据集。截至2024年，他继续在华盛顿大学教学并领导NLP小组，该小组与Google DeepMind和Anthropic等工业实验室合作开展可解释性研究。
部分出版物
- Smith, N. A. (2006). Adaptation of Statistical Machine Translation Models. 博士论文，马里兰大学。
- Peters, M., Neumann, M., Iyyer, M., Gardner, M., Clark, C., Lee, K., & Smith, N. A. (2018). Deep Contextualized Word Representations. NAACL-HLT。
- Smith, N. A. (2011). Structured Sparsity and the Generalization of the LASSO. AISTATS。
- Smith, N. A., & Eisner, J. (2006). Discriminative Training and Maximum Entropy Models for Statistical Machine Translation. ACL。