責任あるスケーリングポリシー（RSP）は、AI開発者によって公開される自主的な枠組みであり、モデルの展開能力の増加を、それに適用される安全性、セキュリティ、評価措置の対応する増加に結び付け、モデルが危険な能力の閾値に近づくにつれて壊滅的な害を防ぐことを明示的な目標とする。Anthropicは2023年9月に最初のそのようなポリシーを公開し、バイオセーフティの封じ込め基準に大まかに基づいた一連の「AI安全レベル」（ASL）を定義し、その後、このアプローチは他の研究所によって異なる名前で同様の形で採用された。
中核となる考え方は、安全性へのコミットメントを純粋に願望的なものではなく、具体的で監査可能なものにすることである。研究所は事前に特定の能力評価にコミットし、モデルが定義された閾値を超えた場合、例えば生物兵器を作成しようとする初心者を有意に支援する場合、対応する安全策が整うまでモデルを展開またはトレーニングを継続しないと述べる。
起源と類似の枠組み
AnthropicのRSPは、危険な能力の測定と予測に関する初期のAI安全性研究と、整合性の懸念を具体的な展開決定に運用化する方法についての内部議論に影響を受けた。OpenAIは2023年12月に比較可能な「準備枠組み」を公開し、サイバーセキュリティや生物学的脅威などのリスクカテゴリをスコアカードモデルを通じて追跡した。Google DeepMindは2024年に「フロンティア安全枠組み」で続き、他のいくつかのフロンティアモデル開発者は2023年のブレッチリー・パークAI安全サミットの頃に同様の自主的なコミットメントを行った。
内容と仕組み
典型的な要素には、特定の評価に結び付けられた能力閾値、各レベルで必要な安全性とセキュリティ措置（レッドチーミングやモデル重みへの制限付きアクセスなど）、および措置を時間内に準備できない場合にスケーリングを一時停止するコミットメントが含まれる。AnthropicのCEOであるダリオ・アモデイは、このポリシーを、他の主体が開発を続けることを考えると、強力なAIを安全に構築するための競争が、まったく競争しないことよりも望ましいという賭けとして位置付けている。ポリシーは自己公開され、自己執行されるものであり、外部監査や法的拘束力はなく、2020年代半ばの業界全体に共通する構造的特徴である。
批判
一部のAIガバナンス研究者を含む批評家は、自主的な業界の自己規制には執行力が欠けており、閾値は同じ企業によって再定義される可能性があり、競争圧力が曖昧な評価を寛大に解釈するインセンティブを生み出すと主張する。支持者は、RSPが少なくとも公開の証跡と業界規範を確立し、EU AI法などの拘束力のある規制が後で参照または形式化できるものであり、抽象的な存在リスクの懸念を日常の展開決定に結び付ける数少ない具体的な成果物の1つを表すと反論する。