Timnit Gebruは、広く引用される論文「確率的オウムの危険性：言語モデルは大きすぎる可能性があるか？」の共著者として知られ、2020年12月にGoogleを去った際の注目を集めた経緯でも知られるコンピューター科学者であり、AI倫理研究者である。
Gebruはスタンフォード大学でFei-Fei Liの下でコンピュータービジョンの博士号を取得し、初期の研究には商用の顔認識および分析システムにおける人口統計学的バイアスの調査が含まれ、これはComputer vision内での研究であり、非代表的データで訓練されたAIシステムにおけるAlgorithmic biasに関するより広範な研究の一部となった。その後、彼女は当時最も著名な企業AI倫理研究グループの一つであるGoogleのEthical AIチームを共同で率いることになった。
確率的オウムとGoogleからの退社
2021年、Gebru、Emily Bender、Angelina McMillan-Major、そしてGoogleの反対により偽名を使用したMargaret Mitchellは、「確率的オウムの危険性」を発表した。この論文は、キュレーションされていないウェブテキストで訓練されたますます大規模な言語モデルが、環境コスト、コード化された社会的バイアス、訓練データに関する不透明性、そして流暢な出力が真の理解と誤認されるリスクを含むリスクをもたらすと主張し、Stochastic parrot批判を展開した。Google内でのこの論文をめぐる内部対立、特にGebruと共著者に対する撤回または名前の削除の要請は、公の論争につながった。GoogleはGebruが辞任したと述べたが、Gebruと多くの観察者は彼女の退社を解雇と特徴づけた。この出来事は、その後彼女のEthical AI共同リーダーであるMargaret Mitchellの退社とともに、AI研究コミュニティ内外で広く注目され、大規模テクノロジー企業内でのAI ethics研究をめぐる議論における象徴的な事例となった。
DAIR
2021年、Gebruは独立した非企業型の研究機関であるDistributed AI Research Institute（DAIR）を設立した。この機関は、特に疎外されたコミュニティに対するAIの害を研究することに焦点を当て、大規模テクノロジー企業の資金提供やインセンティブの圧力の外に意図的に構造化されている。DAIRを通じて、GebruはAI ethics、AI governance、そして大規模言語モデルや生成AIシステムの社会的コストへの十分な注意なしにスケーリングするリスクについて、出版と講演を続けている。
影響
Gebruの事例は、企業内のAI倫理チームが雇用主の製品を有意義に制約できるかどうかの議論で頻繁に引用されており、確率的オウム論文は生成AI時代で最も引用される批判的論文の一つであり続け、AI開発における主要戦略としてのスケールのコストと限界をめぐる議論を形成し続けている。