「Pause Giant AI Experiments」書簡は、2023年3月22日に未来生命研究所が公開した公開書簡であり、AI研究所に対し、GPT-4より強力なシステムの訓練を少なくとも6か月間停止するよう求めるものであった。この書簡は3万人以上の署名を集め、著名な技術者や研究者を含む多くの支持を得て、2020年代のAI政策論争における最も広く議論された公的介入の一つとなったが、主要な研究所による実際の停止には至らなかった。
内容と署名者
この書簡は、AI研究所が、その作成者を含む誰も確実に理解・予測・制御できないますます強力なシステムを開発・展開する「制御不能な競争」に巻き込まれていると主張し、情報チャネルがプロパガンダや虚偽で氾濫することから、文明全体の制御喪失に至るまでのリスクを警告した。また、公開かつ検証可能な停止と、その期間を独立した専門家の監督下での共有安全プロトコル開発に充てることを求めた。署名者には、書簡を組織した未来生命研究所のマックス・テグマーク、イーロン・マスク、そしてAI安全コミュニティの多くの学者や人物が含まれていたが、最前線の研究所の研究者はほとんど署名しなかった。
反応と批判
この書簡は多方面から鋭い批判を受けた。存在リスクに関連する懸念を持つ一部のAI安全研究者は、一時的な停止は記述されたリスクへの不十分な対応であり、より拘束力のある規制措置を好むと主張した。ティムニット・ゲブルやエミリー・ベンダーなどの学者を含む他の批判者たちは、この書簡が投機的な長期的害悪に焦点を当て、アルゴリズムバイアスのような実証された短期的害悪から注意をそらすものであり、競合他社を遅らせる商業的利益を持つ署名者の動機に疑問を呈した。
その後
主要なAI研究所はこの書簡に応じて開発を停止しなかった。OpenAIは製品の提供を継続し、Google DeepMindやAnthropicを含む競合他社もその後数か月で新しいモデルをリリースし続けた。それでも、この書簡はAIリスクへの公的・政治的注目を高めたと評価されており、その年の後半に開催されたブレッチリー・パークAI安全サミットや、より広範なAIガバナンス枠組みの議論を含むその後の政策努力につながる勢いに貢献した。この書簡は、その中心的な要求が満たされなかったにもかかわらず、2023年初頭までにフロンティアAIの能力への主流の懸念がどのように高まっていたかを示す指標として頻繁に言及されている。