ダン・ヘンドリクスは、アメリカのコンピュータ科学者であり、人工知能による大規模なリスクの低減に焦点を当てた非営利団体であるAI安全センター（CAIS）の事務局長兼研究ディレクターです。彼はカリフォルニア大学バークレー校でコンピュータ科学の博士号を取得し、そこでロバスト性と機械学習評価に関する研究が、この分野で最も広く使用されるベンチマークのいくつかを生み出しました。
ベンチマーク
大学院生時代、ヘンドリクスは2020年に初めて公開された大規模マルチタスク言語理解ベンチマーク、通称MMLUの作成を主導しました。MMLUは57の学術・専門科目にわたってモデルをテストし、GPT-3以降のほぼすべての主要な大規模言語モデルのリリースで引用される標準的な評価基準の一つとなりました。また、競技数学の問題を集めたベンチマークであるMATHなど、他の広く使われる評価データセットにも貢献し、機械学習システムにおける幻覚やロバスト性を測定する方法論の普及に貢献しました。
AI安全センターと絶滅声明
ヘンドリクスは、技術的な安全研究への資金提供と、壊滅的なAIリスクを主流の政策課題として認知させるためにCAISを設立し、報酬ハッキング、モデルのロバスト性、アライメントなどのトピックに関する学術・政策研究を発表しました。2023年5月、CAISは「AIリスクに関する声明」を発表しました。これは、AIによる絶滅リスクの緩和は、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきだという一文です。この声明には、OpenAI、Anthropic、Google DeepMindのリーダーを含む数百人の研究者や経営者が署名し、AIによる実存的リスクへの懸念が、周辺的な立場から主流のAI研究コミュニティ全体に広がった兆候として広く報じられました。
その後、ヘンドリクスはイーロン・マスクのAI企業であるxAIの安全アドバイザーとなり、彼の公的なリスク主張とその役割の整合性を疑問視する一部のコメンテーターから批判を受けました。また、AI安全を伝統的な機械学習のカリキュラムと並行して教えられる学術分野として体系化することを目的としたオープンテキストブック「Introduction to AI Safety, Ethics, and Society」の共著者でもあります。
評価
ヘンドリクスは、この分野では一般的に、Eliezer Yudkowskyのような研究者によるより断定的な予測と、近い将来の壊滅的リスクに懐疑的な業界関係者の中間的な立場を占めていると見なされています。彼の実証的な貢献、特にMMLUは、彼の提唱活動とは独立に引用され、AIリスクに関する様々な見解を持つ研究者、彼の政策上の立場の一部に公に反対する研究所を含む、あらゆる立場の研究者によって使用されています。批評家は、MMLUのようなベンチマークが、モデルが評価セットと重複するデータでますます訓練されるにつれて飽和したり、ゲームされたりする可能性があると疑問視していますが、ヘンドリクスはこの批判を認め、より困難な後続ベンチマークで対応しています。