재귀적 자기 개선(RSI)은 AI 시스템이 자체 역량을 개선하는 과정으로, 아키텍처나 훈련을 직접 수정하거나, 후속 모델을 구축하는 연구를 간접적으로 가속화하여 각 세대가 다음 세대를 더 쉽게 만들 수 있게 한다. 오랫동안 AI 안전 문헌의 이론적 우려 사항이었지만, 2020년대 중반에 최전선 연구소들이 모델을 사용하여 연구 코드를 작성하고, 실험을 설계하고, 훈련 데이터를 생성하고, 다음 모델을 훈련하는 시스템을 디버깅하면서 공학적 현실로 이동했다.
이론
이 개념은 I. J. 굿(Good)의 1965년 "지능 폭발" 논증에 기원을 둔다. 즉, 자신과 유사한 기계의 설계를 개선할 수 있는 기계는 도피적 과정을 촉발하여 "인류가 만들 필요가 있는 마지막 발명"이 될 것이라는 것이다. 이 개념은 특이점 문헌의 하드 테이크오프 시나리오를 뒷받침하며 정렬 연구의 많은 부분에 동기를 부여한다. 즉, 인간이 감사할 수 있는 것보다 더 빨리 스스로를 개선하는 시스템은 감독이 잡으려는 위험을 정확히 집중시키는 것이다.
분석가들은 약한 RSI(모델이 인간 주도 연구를 가속화: 코딩 지원, 데이터 생성, 실험 선별)와 강한 RSI(인간이 개입하지 않은 채 시스템이 자율적으로 스스로를 재설계)를 구분한다. 복리 효과 논증은 둘 다에 적용되지만, 거버넌스 함의는 크게 다르다.
실제 적용 (2025-2026)
2025년까지 연구소 지도자들은 약한 RSI를 운영 중으로 설명했다. 샘 알트만의 온건한 특이점은 "유충 단계"의 자기 개선조차도 극적으로 복리 효과를 낸다고 주장했으며, 주요 연구소의 내부 도구는 연구 엔지니어링의 점점 더 많은 부분을 최전선 모델에 의존했다. 2026년, 다리오 아모데이는 업계 전반( 앤트로픽 포함)의 가속화된 RSI를 우리는 최전선을 조절해야 한다의 주요 촉매로 언급했으며, 이는 최전선 개발을 의도적으로 조절하라는 그의 요청이었다.