康纳·莱希是一位德裔美国人工智能研究员和企业家，以其在大语言模型方面的工作以及对高级人工智能风险的倡导而闻名。他共同创立了EleutherAI，该集体产出了早期的开源语言模型，随后又创立了人工智能安全研究公司Conjecture，并担任其首席执行官直至2026年。截至2026年，他担任ControlAI的美国总监，该非营利组织专注于防止人工超级智能带来的灭绝风险。
莱希一直是警告高级人工智能可能导致人类灭绝的知名声音。他曾在加拿大下议院作证，并参加了2023年的首届人工智能安全峰会。他的公开言论常常强调强大人工智能系统的不可预测性以及政府监管的必要性。
早年生活与教育
莱希在德国长大，后来移居美国。他在一所大学学习，并在业余时间开始尝试机器学习模型。2019年，他还是学生时，就在宿舍里逆向工程了OpenAI的GPT-2，当时该组织最初并未发布完整模型。这个早期项目激发了他对大语言模型内部运作及其潜在社会影响的兴趣。
职业与研究
2020年7月，莱希与西德·布莱克和利奥·高共同创立了EleutherAI，最初专注于在开源环境中复现GPT-3。在他担任联合负责人期间，EleutherAI产出了一些最早的开源大语言模型和数据集。其中包括2020年12月的The Pile、2021年3月的GPT-Neo、2021年6月的GPT-J-6B，以及2022年2月的GPT-NeoX-20B。在发布时，GPT-J-6B是世界上最大的开源GPT-3风格语言模型，这是人工智能研究社区的一个重要里程碑。
2022年3月，莱希共同创立了Conjecture，这是一家他担任首席执行官的人工智能安全研究公司。该公司的既定使命是扩展应用型人工智能对齐研究，旨在解决确保强大人工智能系统符合人类意图的挑战。莱希对基于人类反馈的强化学习作为对齐问题的完整解决方案表示怀疑。他将强大的人工智能系统描述为“异类”的推理方式，并指出像RLHF这样的技术可能只是掩盖了底层的非人类思维过程。他用“笑脸面具”的比喻来说明，这种面具在意外提示下可能会滑落，暴露出他所谓的“巨大的疯狂底层”。
倡导与公共参与
2023年3月，莱希是未来生命研究所公开信的签署人之一，该信呼吁“所有人工智能实验室立即暂停至少6个月训练比GPT-4更强大的人工智能系统”。这封信引起了广泛关注，并引发了关于人工智能发展速度的辩论。2023年5月，他是《人工智能风险声明》的签署人之一，该声明只有一句话：“减轻人工智能带来的灭绝风险，应与流行病和核战争等其他社会规模风险一样，成为全球优先事项。”该声明得到了数百位知名人士的签署，包括诺贝尔奖得主、人工智能研究员以及OpenAI、Anthropic和Google DeepMind等主要人工智能公司的首席执行官。
2023年11月，莱希受邀在英国举行的首届人工智能安全峰会上发言。他表达了对峰会未能充分解决超越人类能力的人工智能系统风险的担忧，并认为如果这些系统在没有适当控制的情况下被构建，“未来属于它们，而不是我们”。他与非营利组织ControlAI合作，倡导各国政府实施暂停通用人工智能发展的措施，并批评主要人工智能公司试图逃避政府监督和监管。
后期职业
2026年3月，莱希在一篇回顾性文章中宣布Conjecture项目即将结束，他将加入ControlAI担任美国总监，此前他曾担任该组织的顾问。他在ControlAI的工作重点是围绕人工超级智能风险的政策倡导和公众教育。他继续就人工智能安全撰写文章并公开发表演讲，维护着一份名为“远征远方之地”的Substack通讯。
参见
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell