Joel Lehman 是一位计算机科学家和人工智能研究员,隶属于 OpenAI,在那里他致力于推进机器学习和人工智能的发展。他最为人熟知的是共同创造了新奇性搜索和POET,这两种有影响力的算法探索了AI系统中的开放性。他的研究聚焦于简单的进化原理如何在没有明确目标函数的情况下生成复杂的行为和解决方案。
Lehman的工作处于 人工智能、机器学习和 神经网络 的交汇点。他为基础理论和实际应用都做出了贡献,包括大型语言模型和强化学习。他的思想塑造了研究者对探索、多样性以及AI在预定义目标之外进行创新的潜力的思考方式。
早年生活与教育
Joel Lehman 在德克萨斯大学奥斯汀分校获得计算机科学博士学位,师从 Risto Miikkulainen。他的博士研究专注于进化计算,以及利用新奇性搜索来规避欺骗性的适应度景观。他还拥有 卡内基梅隆大学 的计算机科学学士学位。
在研究生学习期间,Lehman 对开放式进化产生了浓厚兴趣,这一概念借鉴生物进化来创造能够持续生成新的、日益复杂行为的系统。这种兴趣后来定义了他职业生涯的很大一部分。
新奇性搜索
新奇性搜索是一种算法,它奖励智能体产生新颖的或与之前所见不同的行为,而不是为了达成特定目标。Lehman 在2000年代中期与 Kenneth O. Stanley 共同创造了这种方法。其关键洞见在于,在许多复杂问题中,通往解决方案的路径并不明显,而优化新奇性可以导致传统基于目标的搜索会错过的发现。
从2008年左右开始的一系列论文中,Lehman 和 Stanley 证明了新奇性搜索能比基于适应度的进化更有效地解决迷宫导航和机器人运动等问题。他们的工作挑战了进化计算中目标函数对进步必不可少的普遍假设。新奇性搜索此后已被应用于多个领域,包括游戏、神经架构搜索和生成艺术。
该算法的简洁性和有效性使其成为该领域的里程碑式贡献。它也启发了后续关于多样性维持和质量-多样性算法的研究,这些算法将新奇性与性能指标相结合。
POET
POET(成对开放式开拓者)是一种由 Lehman 与 Stanley 等人共同创造的算法,在2020年的一篇论文中提出。POET 生成一系列日益复杂的环境以及学习解决这些环境的智能体。它采用共同进化的方法,环境和智能体都进行进化,使系统能够创建自己的挑战课程。
POET 的显著特点在于其开放性:它没有固定的最终目标,而是持续生成那些刚好超出智能体当前能力的新问题。这使得系统能够发现在固定环境中可能不会出现的行为。POET 已被应用于迷宫导航和双足运动等任务,在这些任务中,它产生了能够处理各种地形条件的智能体。
该算法代表了朝着创建能够无限学习和适应、无需人工干预的AI系统迈出的重要一步。它被引用为开放式学习如何导向更通用和更稳健智能的例证。
在OpenAI的研究
Lehman 于2020年加入 OpenAI,在那里他参与了与大规模机器学习相关的各种项目。他的贡献包括强化学习、进化策略以及大型语言模型训练方面的研究。他参与了提高AI系统安全性和稳健性的工作,以及理解其涌现能力的工作。
在 OpenAI,Lehman 与其他研究者合作,涉及 课程学习、基于人类反馈的强化学习 以及使用进化算法进行神经架构搜索等主题。他的工作影响了 生成式AI 模型的发展,包括那些基于 Transformer 架构的模型。
Lehman 还撰写了关于开放性哲学意义的文章,认为它可能是实现通用人工智能的关键要素。他就AI研究中探索和多样性的重要性发表过演讲并撰写了文章。
主要论文与出版物
Lehman 撰写或合著了大量有影响力的论文。其中一些最著名的包括:
- “放弃目标:通过仅搜索新奇性进行进化”(2008),该文介绍了新奇性搜索。
- “通过新奇性搜索和局部竞争进化出多样化的虚拟生物”(2011),该文将新奇性搜索扩展到创造多样化的形态。
- “POET:开放式环境的端到端学习”(2020),该文介绍了 POET 算法。
- “机器生成的知识与AI的未来”(2022),一篇探讨AI如何生成新知识的论文。
- “数字进化的惊人创造力”(2018),一篇关于进化算法如何产生创造性解决方案的综述。
他的出版物出现在顶级场合,如《美国国家科学院院刊》、国际学习表征会议(ICLR)以及遗传与进化计算会议(GECCO)。
奖项与认可
Lehman 的工作获得了多项奖项的认可。他在2008年因其新奇性搜索论文获得了 GECCO 的杰出论文奖。他的 POET 论文在2020年 ICLR 上被提名最佳论文。他还被邀请在进化计算和AI的主要会议和研讨会上发表演讲。
除了学术认可,Lehman 的研究还被媒体广泛报道,包括《Wired》、《MIT Technology Review》和《Quanta Magazine》上的文章。他关于开放性的思想引发了关于AI未来及其超越人类期望进行创新潜力的讨论。
影响与遗产
Joel Lehman 的贡献对进化计算和人工智能领域产生了持久的影响。新奇性搜索和 POET 被认为是开放式进化领域的基础性工作,该领域旨在创造能够生成自身目标并持续改进的AI系统。他的研究启发了新一代科学家去探索基于多样性的方法,并质疑目标函数的必要性。
Lehman 的工作也影响了实际应用。例如,新奇性搜索已被用于游戏设计,以创建具有多样化行为的非玩家角色,而 POET 则被应用于机器人和自动化课程生成。随着AI系统变得越来越复杂,并预计将在动态、不可预测的环境中运行,他的思想正变得越来越相关。
截至2025年,Lehman 继续在 OpenAI 工作,为先进AI模型的开发做出贡献,并探索开放式学习的前沿。他的研究仍然处于构建不仅有能力而且具有创造性和适应性的AI努力的最前沿。
个人生活与兴趣
在研究之外,Lehman 以对心灵哲学和创造力本质的兴趣而闻名。他撰写过关于这些主题的博客文章和文章,经常在生物进化与人工智能之间建立联系。他也是开放科学的倡导者,并公开了他的许多论文和代码。
Lehman 居住在旧金山湾区,OpenAI 的总部所在地。他喜欢徒步旅行和玩棋盘游戏,他说这些活动激发了他对探索和策略的思考。
参见
参考文献
- Lehman, J., & Stanley, K. O. (2008). Abandoning Objectives: Evolution Through the Search for Novelty Alone. GECCO.
- Lehman, J., & Stanley, K. O. (2011). Evolving a Diversity of Virtual Creatures through Novelty Search and Local Competition. GECCO.
- Wang, R., Lehman, J., et al. (2020). POET: End-to-End Learning of Open-Ended Environments. ICLR.
- Lehman, J., et al. (2018). The Surprising Creativity of Digital Evolution. PNAS.
- Lehman, J., et al. (2022). Machine-generated knowledge and the future of AI. arXiv.