Pause Giant AI Experiments 서한은 2023년 3월 22일 Future of Life Institute가 발표한 공개 서한으로, AI 연구소들이 GPT-4보다 더 강력한 시스템의 훈련을 최소 6개월 동안 중단할 것을 촉구했다. 이 서한은 저명한 기술 전문가와 연구자들을 포함한 30,000명 이상의 서명을 모았으며, 2020년대 AI 정책 논쟁에서 가장 널리 논의된 공공 개입 중 하나가 되었지만, 주요 연구소들의 실제 중단으로 이어지지는 않았다.
내용 및 서명자
이 서한은 AI 연구소들이 창작자조차도 안정적으로 이해하거나 예측하거나 통제할 수 없는 점점 더 강력한 시스템을 개발하고 배포하기 위해 "통제 불능의 경쟁"에 휘말려 있다고 주장했으며, 정보 채널이 선전과 허위 정보로 넘쳐나는 것부터 문명에 대한 통제 상실에 이르는 위험을 경고했다. 또한 공개적이고 검증 가능한 중단과, 그 기간 동안 독립적인 전문가가 감독하는 공유 안전 프로토콜을 개발해야 한다고 촉구했다. 서명자에는 서한을 조직한 Future of Life Institute의 Max Tegmark, Elon Musk, 그리고 다수의 학자와 AI 안전 커뮤니티 인사들이 포함되었지만, 최첨단 연구소의 핵심 연구원들은 거의 서명하지 않았다.
반응과 비판
이 서한은 여러 방향에서 날카로운 비판을 받았다. 실존적 위험 우려와 관련된 일부 AI 안전 연구자들은 일시적인 중단이 설명된 위험에 대한 불충분한 대응이며 더 구속력 있는 규제 조치를 선호한다고 주장했다. Timnit Gebru와 Emily Bender 같은 학자를 포함한 다른 비판자들은 이 서한이 추측적인 장기적 피해에 초점을 맞추면서 알고리즘 편향과 같은 문서화된 단기적 피해를 간과하고, 경쟁자를 늦추려는 상업적 이해관계를 가진 서명자들의 동기에 의문을 제기했다.
이후 결과
주요 AI 연구소는 이 서한에 대응하여 개발을 중단하지 않았다. OpenAI는 제품 출시를 계속했고, Google DeepMind와 Anthropic을 포함한 경쟁사들도 이후 몇 달 동안 새로운 모델을 계속 출시했다. 그럼에도 불구하고 이 서한은 AI 위험에 대한 대중적·정치적 관심을 높인 공로로 인정받으며, 그 해 말 블레츨리 공원 AI 안전 정상회의와 AI 거버넌스 프레임워크에 대한 더 넓은 논의를 포함한 이후 정책 노력에 추진력을 제공하는 데 기여했다. 이 서한은 2023년 초까지 최첨단 AI 능력에 대한 주류적 우려가 얼마나 커졌는지를 보여주는 지표로 자주 언급되지만, 그 핵심 요구는 충족되지 않은 채 남아 있다.