トム・ブラウンは、機械学習エンジニアおよび研究者であり、GPT-3を紹介した2020年の論文の主執筆者として、また2021年のAnthropicの共同創業者の一人として知られている。
GPT-3
AIに携わる以前、ブラウンはエンジニアおよび起業家としての経歴を持ち、リアルタイム動画やエフェクト技術に関連する仕事も含まれていた。彼はOpenAIに参加し、GPT-3を紹介した論文「Language Models are Few-Shot Learners」（2020年）の第一著者となった。GPT-3は、広範なウェブ規模のコーパスで訓練された1750億パラメータのAutoregressive modelである。この論文の中心的な主張は、十分に大規模な言語モデルが、重みの更新なしにプロンプト内で与えられたわずかな例だけで新しいタスクを実行できるというものであり、これによりFew-shot learningとIn-context learningが、実務者が今後大規模モデルと対話する際の中心的な枠組みとして確立された。また、GPT-3のAPIアクセスモデルは、後に業界全体で採用されるテンプレートを設定した。
Anthropic
2021年、ブラウンはDario AmodeiとDaniela Amodeiの兄妹を含む数人の同僚とともにOpenAIを離れ、Anthropicを設立した。この会社は、最先端のAI能力と安全性研究は別々の関心事として扱うのではなく、一緒に追求する必要があるというテーゼを中心に組織されている。共同創業者として、ブラウンはAnthropicのClaudeモデルファミリーを訓練するために必要なエンジニアリングとインフラストラクチャに取り組んでおり、これはAnthropicのリーダーシップに最も関連付けられる整合性重視の公的なメッセージとは関連するが異なる分野である。
意義
ブラウンのGPT-3論文は、2020年代の深層学習文献の中で最も引用された作品の一つであり、Jared Kaplanなどの同僚によるScaling laws研究の根底にある「規模が重要である」という言語モデル進歩の解釈を広めたと頻繁に評価されている。この論文が示した、単一の汎用モデルが再訓練なしにプロンプトだけで新しいタスクに適応できるという実証は、プロンプト自体がモデル訓練の後付けではなく、真剣な技術的専門分野となった瞬間としてしばしば説明される。
彼のOpenAIからAnthropicへの移籍は、Chris Olahも含むコホート離脱の一部であり、研究者の移動が最先端AIラボ間の競争環境を再形成した最も明確な例の一つとして頻繁に引用されている。OpenAIと同様に、ブラウンはAnthropicでも最も目立つスポークスパーソンと比較して比較的低い公的なプロフィールを維持しており、公開コミュニケーションではなくモデルの訓練とスケーリングのエンジニアリング作業に焦点を当てている。これは、最先端ラボの技術的共同創業者に共通する役割分担である。