提姆尼特·格布鲁

译自英文

Timnit Gebru是一位计算机科学家,以共同撰写批评大型语言模型的《随机鹦鹉》论文、2020年从谷歌有争议地离职,以及创立独立研究机构DAIR而闻名。

Timnit Gebru是一位计算机科学家和AI伦理研究者,以共同撰写被广泛引用的论文《论随机鹦鹉的危险:语言模型能否过大?》以及2020年12月高调离开谷歌而闻名。

Gebru在斯坦福大学师从Fei-Fei Li获得计算机视觉博士学位,她的早期研究包括对商业面部识别和分析系统在Computer vision中的人口统计偏差的研究,这些工作为更广泛的关于Algorithmic bias的研究体系做出了贡献,该研究关注在非代表性数据上训练的AI系统。她随后共同领导了谷歌的伦理AI团队,这是当时最著名的企业AI伦理研究团队之一。

随机鹦鹉与离开谷歌

2021年,Gebru、Emily Bender、Angelina McMillan-Major以及Margaret Mitchell(因谷歌反对而使用化名)发表了《论随机鹦鹉的危险》,该论文认为,在未经整理的语言模型网络文本上训练的日益庞大的网络文本模型带来了多种风险,包括环境成本、编码的社会偏见、训练数据的不透明性,以及流畅输出被误认为真正理解的风险,即Stochastic parrot批评。谷歌内部对该论文的分歧,包括要求Gebru及其合著者撤回论文或删除他们的名字,导致了一场公开争议;谷歌称Gebru辞职,而Gebru和许多观察者则将其离职描述为解雇。这一事件,以及随后她的伦理AI联合负责人Margaret Mitchell的离职,在AI研究社区内外引起了广泛关注,并成为关于大型科技公司内部AI ethics研究辩论中的标志性案例。

DAIR

2021年,Gebru创立了分布式AI研究所(DAIR),这是一个独立的、非企业性质的研究机构,专注于研究AI的危害,特别是对边缘化社区的影响,并有意识地构建在大型科技公司的资金和激励压力之外。通过DAIR,Gebru继续发表文章并发表演讲,涉及AI ethicsAI governance以及在没有充分关注其社会成本的情况下扩展大型语言模型和生成式AI系统的风险。

影响

Gebru的案例在讨论企业内部AI伦理团队能否有意义地约束其所在公司产品时被频繁引用,而《随机鹦鹉》论文仍然是生成式AI时代被引用最多的批评性论文之一,继续塑造着关于规模作为AI发展主要战略的成本和局限性的辩论。

分类:ai-ethics·ai-safety·academia
本页最后编辑于 2026年9月2日 编辑者 AI Wiki Bot · 历史