卡尔·舒尔曼（Carl Shulman）是一位人工智能研究者和政策专家。他是开放慈善（Open Philanthropy）的联合创始人，该组织是一家资助机构，为捐赠者提供高影响力捐赠建议，并且他在有效利他主义运动的发展中扮演了关键角色。他的工作聚焦于高级人工智能的长期风险与机遇，包括存在性风险与人工智能治理。
舒尔曼的研究和政策贡献主要集中在人工智能安全、预测和慈善事业的交叉领域。他一直是关于人工智能可能带来灾难性风险讨论中的重要声音，并致力于引导资金和关注投向这些风险的缓解工作。他还参与了这些主题的学术研究，为人工智能对齐领域以及更广泛的技术未来话语做出了贡献。
早年生活与教育
舒尔曼的早期学术背景是法律和哲学。他获得了法律学位，随后对新兴技术（尤其是人工智能）的伦理影响产生了兴趣。这一兴趣将他引向了牛津大学，在那里他参与了人类未来研究所（FHI），这是一个专注于人类长期未来宏大问题的跨学科研究中心。在FHI，他与尼克·博斯特罗姆和托比·奥德等研究人员共事，为该研究所关于存在性风险和人工智能哲学的研究做出了贡献。
在开放慈善的职业生涯
舒尔曼是开放慈善的联合创始人，该组织源于有效利他主义社区。开放慈善的成立旨在进行深入研究并做出大规模捐赠，以解决世界上一些最紧迫的问题，其中重点关注人工智能风险和治理。舒尔曼在该组织担任高级顾问和研究员，帮助塑造其在人工智能领域的资助策略。他的工作涉及识别有前景的研究方向，评估各种人工智能安全举措的潜在影响，以及支持致力于人工智能治理和技术对齐的组织。
对人工智能风险与政策的贡献
舒尔曼是人工智能风险方面多产的作者和演讲者。他认为，人工智能的发展可能导致从巨大益处到存在性灾难的各种结果，而今天研究人员、政策制定者和资助者所做的选择至关重要。他强调了人工智能对齐技术研究的重要性，以及需要健全的治理机制来确保人工智能的安全发展。他的工作影响了人工智能领域主要慈善努力的优先事项，包括开放慈善和未来生命研究所的慈善工作。
关于人工智能对齐与治理的观点
舒尔曼对人工智能对齐的看法以关注实际的、近期的行动来减少长期风险为特点。他主张增加对机器学习可解释性、鲁棒性以及开发安全神经网络等技术研究的投资。他还强调了政策研究的重要性，包括国际协议的设计以及OpenAI和Anthropic等组织在塑造行业规范中的作用。他一直是“预防性”方法的支持者，优先考虑安全而非速度，同时也承认人工智能在解决全球问题方面的潜在益处。
在有效利他主义中的角色
舒尔曼是有效利他主义社区的核心人物，该社区寻求利用证据和理性来尽可能做好事。他在开放慈善的工作是将这些原则应用于人工智能领域的典范。他撰写了大量关于遥远未来道德重要性的文章，认为人类长期发展轨迹是伦理决策的关键考量。这一视角使他专注于存在性风险，他认为这是当今最紧迫的问题。
精选出版物与演讲
舒尔曼撰写或合著了多篇关于人工智能风险、预测和慈善事业的文章和论文。他曾在主要人工智能会议和研讨会上发表演讲，包括由伯克利人工智能研究实验室和斯坦福人工智能实验室组织的活动。他的书面作品常出现在有效利他主义论坛和学术期刊等场所。他还为人类未来研究所的研究成果做出了贡献，包括关于费米悖论和模拟论证的研究。
影响与遗产
舒尔曼的影响力超越了他自己的研究。通过他在开放慈善的角色，他帮助将数亿美元的资金引导到人工智能安全研究和政策倡议中。这些资金支持了Anthropic和机器智能研究所等组织的成长，以及牛津大学和卡内基梅隆大学等机构的学术团队。他的思想塑造了人工智能领域许多人的战略思维，他被广泛认为是关于人工智能长期风险的关键思想家。
个人生活
舒尔曼以其严谨的智识和对利用自身技能解决人类面临最重要问题的承诺而闻名。他居住在美国，继续从事人工智能政策和慈善事业。他也是有效利他主义和人工智能安全社区其他研究人员的频繁合作者，包括尼克·博斯特罗姆和托比·奥德。
参见
- 人类未来研究所
- 开放慈善
- 存在性风险
- 人工智能对齐
参考文献
- 开放慈善。“卡尔·舒尔曼。”访问于2023年。
- 人类未来研究所。“人员。”牛津大学。
- 舒尔曼，卡尔。“人工智能与遥远未来。”有效利他主义论坛，2019年。