Chris Olahは、機械学習研究者であり、機構的解釈可能性の分野の創設者の一人と見なされており、Anthropicの共同創設者でもあり、そこで解釈可能性の研究を率いている。
初期の業績とDistill
Olahは伝統的な大学の学位を修了せず、独立した研究や産業界での勤務を通じて研究キャリアを築いた。Google Brainでの勤務期間には、畳み込みニューラルネットワークの初期の可視化および特徴解釈技術に貢献し、またOpenAIでも働いた。2017年には、機械学習研究の明確でインタラクティブな視覚的説明に焦点を当てたオンラインジャーナルであるDistillを共同創設した。このジャーナルは、出版量よりも真の理解を重視する編集方針で影響力を持ち、2021年に定期刊行を終了するまで続いた。
解釈可能性の研究
Olahの研究は機構的解釈可能性に焦点を当てている。これは、訓練済みのニューラルネットワークの内部計算を、不透明なブラックボックスとして扱うのではなく、人間が理解できるアルゴリズムにリバースエンジニアリングする試みである。彼の初期の回路ベースの研究は、一部はOpenAIで、その後Anthropicで続けられ、視覚モデルと言語モデル内の解釈可能な概念に対応する特定の「特徴」と「回路」を特定することを目的としていた。Anthropicでは、彼のチームはスパースオートエンコーダを用いて大規模言語モデルから一義的な特徴を抽出する広く引用される研究を発表しており、これはモデルの内部推論を監査できるようにすることを最終目標とするより広範な研究課題の一部であり、出力のみに依存するのではなく、モデルの内部推論を監査できるようにすることを目指している。
Anthropic
Olahは2021年に、Dario Amodei、Daniela Amodei、Tom Brown、Jared KaplanとともにAnthropicを共同創設した。これらのうち数人はOpenAIで一緒に働いたことがあった。解釈可能性は、Anthropic内で安全性戦略の核となる柱として位置付けられており、Constitutional AIやその責任あるスケーリングポリシー（Responsible scaling policiesを参照）と並んで、モデルの内部を理解することで、ブラックボックス評価では見逃されるであろう欺瞞的または報酬ハッキング傾向などの危険な行動を最終的に検出できる可能性があるという前提に基づいている。
影響
Olahは、解釈可能性をニッチな学術的追求から、フロンティア研究所における十分な資金が提供される中心的な研究プログラムへと変えた人物として広く評価されており、Google DeepMindやその他の場所での同様の解釈可能性の取り組みに影響を与え、AI safety分野が行動的整合性とモデルの内部推論の真の理解との違いをどのように考えるかを形成した。彼の独学で非伝統的な分野への道のりは、フロンティアAI研究には従来の学術的経歴が必要であるという前提への反例として頻繁に引用されている。