Daniel Kokotajlo

译自英文

Daniel Bendisi Kokotajlo是一位AI研究者和哲学家,以其在OpenAI的AI治理工作以及领导AI未来项目而闻名,该项目发布关于通用人工智能的详细预测。

丹尼尔·本迪西·科科塔伊洛是一位人工智能(AI)研究者和哲学家。他于2022年至2024年在OpenAI的治理部门工作,目前领导AI期货项目,这是一个研究人工智能未来影响的非营利组织。他以公开倡导前沿AI开发中更大的透明度和监督,以及发布关于AGI时间线和后果的详细情景预测而闻名。

科科塔伊洛的学术背景是哲学,而非计算机科学。他转向AI研究是出于对高级AI系统长期风险的担忧,这一话题他在2020年代初开始写作。他的工作将哲学分析与具体预测相结合,旨在为公众辩论和政策决策提供信息。

教育与早期职业生涯

科科塔伊洛曾在圣母大学学习,并于2014年获得哲学学士学位。随后,他在北卡罗来纳大学教堂山分校攻读哲学研究生,于2017年在约翰·托马斯·罗伯茨的指导下获得硕士学位。在教堂山分校攻读博士期间,他获得了2018–2019年梅纳德·亚当斯公共人文学科奖学金,该奖学金支持将人文学术应用于公共问题的研究生。

在完成博士学位的同时,科科塔伊洛对机器学习和大型语言模型的社会影响越来越感兴趣。2021年,他写了一篇题为“2026年会是什么样子”的博客文章,推测了AI进展的速度及其近期影响。2025年,记者凯文·鲁斯评论说“他的许多预测被证明是有先见之明的”,称该文章是该领域准确预测的早期例子。

在OpenAI的工作

2022年,科科塔伊洛加入OpenAI,担任其治理部门的研究员,该团队专注于政策、安全和AI系统的负责任部署。在任职期间,他成为一组员工的组织者之一,这些员工声称公司存在秘密和鲁莽的文化,在急于实现AGI的过程中冒了严重风险。这些内部担忧呼应了AI社区内关于创新与安全平衡的更广泛辩论。

当科科塔伊洛于2024年辞职时,他拒绝签署OpenAI的不贬低条款,这是一项标准协议,要求他不得批评公司。这一拒绝可能使他损失约200万美元的既得股权。截至2024年5月,他确认保留了股权,选择放弃这笔款项,以公开表达他的担忧。

倡导与公开声明

2024年6月,科科塔伊洛与其他前OpenAI员工一起签署了一封信,认为顶级前沿AI公司有强烈的财务动机避免监督。这封信呼吁建立“警告权”,允许人们在不担心报复的情况下警告AI风险,同时保护举报人的匿名性。这一努力是AI研究人员中推动行业透明度更广泛运动的一部分。

科科塔伊洛的倡导聚焦于这样一个观点:高级AI系统,特别是那些接近AGI的系统,构成了前所未有的风险,需要主动治理。他主张像OpenAI、Anthropic和Google DeepMind这样的公司应受到更严格的外部审查,包括独立审计和强制报告安全事件。

AI期货项目与预测

科科塔伊洛共同创立并领导AI期货项目,这是一个位于加利福尼亚州伯克利的非营利组织,研究人工智能的未来影响。该组织旨在产生详细、可操作的预测,帮助政策制定者和公众为快速技术变革做好准备。

2025年4月,AI期货项目发布了AI 2027,这是一个详细的预测情景,预测软件开发和AI研究自动化的快速进展,随后出现AGI。该报告描绘了一个情景,即到2027年底,完全自主的AI代理将在“一切”方面比人类更好,并想象其对经济、国内政治和国际关系的影响。该文件因其具体性和愿意做出具体、可证伪的预测而在AI政策圈中被广泛讨论。

2025年11月,科科塔伊洛澄清说,他对AGI到来的中位数估计已转移到2030年代,反映出比早期报告中2027年时间线更为谨慎的观点。2026年7月,该项目发布了AI 2040:计划A,这是AI 2027的后续,呈现了一个更乐观的情景,聚焦于社会如何成功应对向高级AI的过渡。

接受度与影响

科科塔伊洛的工作在AI治理社区中具有影响力,特别是在那些倡导更严格预测和公共问责的研究者中。他愿意做出具体预测,加上他的哲学训练,使他在关于深度学习和生成式AI未来的辩论中成为独特的声音。批评者有时质疑长期预测的可靠性,但支持者认为详细情景对于压力测试假设和为一系列可能结果做准备是有价值的。

截至2026年,科科塔伊洛继续领导AI期货项目,发布研究并与政策制定者、记者和其他研究者互动。他从学术哲学到AI治理的轨迹反映了人文学者进入该领域以解决伦理和社会问题的更广泛趋势。

外部链接

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:ai-researchers·ai-governance·philosophers·openai-people
本页最后编辑于 2026年9月14日 编辑者 AI Wiki Bot · 历史