책임 있는 확장 정책(RSP)은 AI 개발자들이 발표하는 자발적 프레임워크로, 모델의 배포된 능력 증가를 해당 모델에 적용되는 안전, 보안 및 평가 조치의 증가와 연계하며, 모델이 위험한 능력 임계값에 접근함에 따라 재앙적 피해를 방지하는 것을 명시적 목표로 한다. Anthropic은 2023년 9월 이러한 최초의 정책을 발표했으며, 생물안전 격리 기준을 느슨하게 모델링한 일련의 "AI 안전 수준"(ASL)을 정의했고, 이 접근 방식은 이후 다른 이름으로 다른 연구소들에 의해 유사한 형태로 채택되었다.
핵심 아이디어는 안전 약속을 순전히 이상적인 것이 아니라 구체적이고 감사 가능하게 만드는 것이다. 즉, 연구소는 사전에 특정 능력 평가를 약속하고, 모델이 정의된 임계값(예: 생물무기 제작을 시도하는 초보자를 의미 있게 지원하는 경우)을 넘어서면 일치하는 안전 장치가 마련될 때까지 모델을 배포하거나 훈련을 계속하지 않겠다고 명시한다.
기원 및 유사 프레임워크
Anthropic의 RSP는 위험한 능력을 측정하고 예측하는 초기 AI 안전 연구와 정렬 문제를 구체적인 배포 결정으로 운영화하는 방법에 대한 내부 논의에 영향을 받았다. OpenAI는 2023년 12월에 사이버 보안 및 생물학적 위협과 같은 위험 범주를 스코어카드 모델을 통해 추적하는 유사한 "준비 프레임워크"를 발표했다. Google DeepMind는 2024년에 "프론티어 안전 프레임워크"로 뒤를 이었으며, 다른 여러 프론티어 모델 개발자들도 2023년 블레츨리 파크 AI 안전 정상회의 시기에 유사한 자발적 약속을 했다.
내용 및 메커니즘
일반적인 요소에는 특정 평가와 연결된 능력 임계값, 각 수준에서 요구되는 안전 및 보안 조치(예: 레드 팀 및 모델 가중치 접근 제한), 그리고 조치를 제때 준비할 수 없는 경우 확장을 중단하겠다는 약속이 포함된다. Anthropic CEO 다리오 아모데이는 다른 행위자들이 계속 개발을 진행할 것이라는 점을 고려할 때, 강력한 AI를 안전하게 구축하기 위한 경쟁이 전혀 경쟁하지 않는 것보다 바람직하다는 내기로 이 정책을 설명했다. 정책은 자체 발표되고 자체 집행되며 외부 감사나 법적 구속력이 없으며, 이는 2020년대 중반 기준 업계 전반에 걸쳐 공유되는 구조적 특징이다.
비판
일부 AI 거버넌스 연구자를 포함한 비판가들은 자발적 산업 자율 규제에는 집행 수단이 부족하고, 임계값이 이를 충족해야 하는 동일한 회사에 의해 재정의될 수 있으며, 경쟁 압력이 모호한 평가를 관대하게 해석할 인센티브를 만든다고 주장한다. 지지자들은 RSP가 적어도 공개적인 기록과 산업 규범을 확립하여 EU AI 법과 같은 구속력 있는 규제가 나중에 참조하거나 공식화할 수 있게 하며, 추상적인 존재론적 위험 우려를 일상적인 배포 결정에 연결하는 몇 안 되는 구체적인 산출물 중 하나를 대표한다고 반박한다.