スチュアート・ラッセルは、イギリス人の計算機科学者であり、カリフォルニア大学バークレー校の教授である。ピーター・ノーヴィグとの共著である『人工知能：現代のアプローチ』（AIMA）の著者として最もよく知られており、この教科書は1995年の初版以来、この分野で最も広く使用されている入門書である。
経歴
1962年にイングランドのポーツマスで生まれたラッセルは、オックスフォード大学で物理学を学んだ後、1986年にスタンフォード大学で計算機科学の博士号を取得した。同年にバークレー校へ着任し、以来ずっと同校に在籍して、確率的推論、知識表現、強化学習にわたるテーマに取り組んでいる。現在は複数の版を重ねるAIMAは、人工知能を合理的エージェントの概念を中心に据えた統一的な分野として提示し、探索、論理、計画、機械学習といった、現代のAIの多くを支える内容を含め、何世代もの学生がこの主題に触れる方法を形作ってきた。
人間適合型AI
2010年代半ば以降、ラッセルは、システムが固定された人間指定の目的を最適化するように構築されるというAIの「標準モデル」は、システムがより高性能になるにつれて根本的に危険であると主張する、最も著名な学術的声の一人となっている。なぜなら、誤って指定された目的は、意図しない有害な方法で追求される可能性があるからである。2019年の著書『Human Compatible』では、彼が「証明可能に有益な」AIと呼ぶ代替案を提案しており、そこでは機械が人間の選好について意図的に不確かさを保ち、人間の監督に従うように設計され、ハードコードされた目標を自信を持って追求するのではなく、この枠組みはアライメント研究のより広い分野と密接に関連している。
ラッセルはバークレー校に人間適合型AIセンター（CHAI）を設立し、その所長を務めており、高度なAIシステムを意味のある人間の制御下に置くための技術的アプローチを研究している。彼は2023年の一時停止書簡の署名者であり、最も強力なモデルの訓練の一時停止を求めており、AIリスクと規制について国内外の機関で証言し、ヨシュア・ベンジオなどの研究者とともに、AI安全性とAIによる実存的リスクに関するより広い議論の中に自身の研究を位置づけている。ラッセルは、本質的にすべてのタスクにおいて人間レベルの一般的知能に達するかそれを超える機械を構築するという、この分野自身が公言する長期的目標は、制御問題を先に解決せずにその目標が達成された場合に何が起こるかを真剣に考慮することを研究者に義務付けると主張しており、この懸念は人工汎用知能の安全性に関する研究の中心でもある。