诺姆·沙泽尔是一位美国计算机科学家,因作为2017年提出Transformer架构的论文的八位合著者之一,以及聊天机器人公司Character.AI的联合创始人而闻名。
在谷歌的职业生涯
沙泽尔在Transformer时代之前已在谷歌工作多年,参与构建了包括谷歌拼写纠正部分组件和早期混合专家研究在内的大规模系统,他帮助推广了这种架构,作为在不按比例增加计算成本的情况下扩展模型容量的一种方式。2017年,他是《Attention Is All You Need》的合著者,该论文引入了Transformer,用自注意力机制取代了循环结构,并成为此后几乎所有主要大型语言模型(包括BERT和GPT-3)的架构基础。该论文的所有八位作者最终都离开了谷歌。
Character.AI
2021年,沙泽尔离开谷歌,联合创立了Character.AI,这家公司允许用户创建并与之对话的可定制AI角色,基于公司自行训练的大型语言模型。Character.AI迅速增长,达到数千万用户,并成为AI伴侣产品中最突出的例子之一,但也因其与年轻用户互动的安全性以及一起广泛报道的用户伤害案件而受到审查和诉讼。
重返谷歌
2024年8月,谷歌宣布了一项协议,支付费用以授权Character.AI的技术,并聘请了其大部分领导层,包括沙泽尔,他以高级高管的身份重返谷歌,加入Google DeepMind组织,参与Gemini模型系列的开发。该安排以授权协议加人才聘用的形式而非正式收购,被广泛视为大型AI实验室重新吸纳小型AI公司创始人的一种模式,这一结构也用于涉及Inflection AI和微软的交易中。
影响
作为Transformer论文的合著者,沙泽尔被认为是支撑2022年后兴起的整个生成式AI行业技术基础的架构师之一,他从谷歌到消费级AI初创公司再回归谷歌的职业轨迹,经常被引用来说明在前沿AI人才市场在生成式AI热潮期间变得多么集中。