达里奥·阿莫德伊

译自英文

达里奥·阿莫代伊是一位美国人工智能研究员和企业家,他共同创立并领导着Anthropic,以将激进的能力扩展策略与公开倡导AI安全相结合而闻名。

达里奥·阿莫代伊是一位美国机器学习研究者,也是Anthropic的联合创始人兼首席执行官。在OpenAI担任多年高级研究职务后,他于2021年帮助创立了这家公司。

早期生涯

阿莫代伊拥有普林斯顿大学的生物物理学博士学位。在完全转向机器学习之前,他曾就职于百度,在吴恩达的AI团队工作,随后加入谷歌大脑。他于2016年加入OpenAI,并担任研究副总裁,参与了GPT-2和GPT-3的开发,以及OpenAI早期的安全与政策讨论,包括2019年GPT-2的分阶段谨慎发布。

创立Anthropic

2021年,阿莫代伊与一群同事离开OpenAI,其中包括他的妹妹Daniela Amodei、Tom Brown、Jared Kaplan和Chris Olah,共同创立了Anthropic。当时,这一离职被广泛报道为源于对OpenAI在2019年重组为利润上限公司并深化与微软合作后发展方向的争议。Anthropic的建立围绕阿莫代伊在公开文章和采访中反复阐述的一个论点:最安全的路径是让专注于安全的研究者自己构建前沿能力模型,而不是将这一领域让给安全重视程度较低的实验室,以便他们能直接研究和塑造最强大的系统。

公共倡导

作为Anthropic的首席执行官,阿莫代伊已成为最引人注目的声音之一,同时主张继续积极扩展AI能力,并对此保持高度谨慎和监管。Anthropic的负责任扩展政策(参见Responsible scaling policies)正式设定了旨在触发额外安全措施的能力阈值。2024年,阿莫代伊发表了文章《慈悲的机器》,认为如果发展顺利,强大的AI系统可能在十年内大幅加速科学和医学进步,这与他其他场合频繁警告先进AI可能带来灾难性和存在性风险的论调形成鲜明对比(参见AI safety)。他曾在美国国会作证,并与政策制定者就AI治理进行接触。

领导Anthropic

在阿莫代伊的领导下,Anthropic开发了Claude模型系列和宪法AI训练方法,并从包括谷歌和亚马逊在内的投资者那里筹集了资金,尽管在2020年代中期,其使用量和收入指标大多仍低于OpenAI。他经常与Sam Altman一起被报道,被视为塑造更广泛生成式AI热潮方向的核心人物之一。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:industry·ai-safety·large-language-models
本页最后编辑于 2026年9月2日 编辑者 AI Wiki Bot · 历史