マックス・テグマーク（1967年、スウェーデン・ストックホルム生まれ）は、物理学者、宇宙学者であり、マサチューセッツ工科大学の教授である。多元宇宙や物理的現実の根底にある数学的構造に関する研究で知られる。2010年代半ば以降、彼は人工汎用知能の開発における慎重さを訴える最も著名な公人の一人となり、主に彼が共同設立し現在率いる非営利団体、未来生命研究所（FLI）を通じて活動している。
テグマークは2014年、Skypeの共同創業者ヤーン・タリンら数人の同僚とともにFLIを共同設立し、変革的技術によるリスク低減に関する研究への資金提供と調整を行ってきた。初期にはAIによる実存的リスクに重点を置いていた。2017年、同研究所は「有益なAIに関するアシロマ会議」を開催し、数百人の研究者が署名した責任あるAI開発のための原則を広く引用される形で策定した。FLIは以来、AIの安全性とガバナンスに特化した最も資金力のある advocacy 組織の一つとなっている。
Life 3.0と公的活動
2017年、テグマークは『Life 3.0：人工知能時代の人間』を出版した。この本は、変革的AIが展開する可能性のあるシナリオを、有益な結果から破滅的な結果まで幅広く示し、「Life 1.0、2.0、3.0」を知性の生物学的、文化的、技術的進化の段階として説明する枠組みを広めた。この本は超知能に関する公的議論で広く引用される参照点となり、AI安全性研究の概念を幅広い一般読者に紹介するのに貢献した。
テグマークの最も注目された活動の瞬間は2023年3月、FLIが公開書簡「大規模AI実験の一時停止」、通称一時停止書簡を発表した時だった。この書簡は、GPT-4より強力なモデルの訓練を少なくとも6ヶ月間停止するようAI研究所に求めるものだった。テグマークが組織化と公表に協力したこの書簡には、イーロン・マスクや他の著名人を含む数千人の研究者や技術者が署名し、AIリスクに関する主要メディアの報道を生んだが、求められた一時停止は実現しなかった。彼はその後も、EU AI法やブレッチリー宣言プロセスなどの取り組みに関与し、拘束力のある国際的ガバナンスを推進し続けている。
立場と評価
テグマークは一般的に、AIリスクを具体的で近い将来のガバナンス失敗と、より長期的な破滅的シナリオの両方の観点から捉え、エリエザー・ユドコウスキーのような研究者のより断定的な予測と、より軽い規制を好む主流の業界の声との間に位置づけている。批評家は、FLIのキャンペーンが投機的な長期的リスクとバイアスや誤情報などのより即時的な害を混同し、どちらへの焦点も薄めていると主張している。支持者は、テグマークが技術的な整合性の懸念を、ほとんどの学術的AI安全性研究よりも早く効果的に政策立案者や一般市民に伝えたと評価している。