블레츨리 선언 2023은 2023년 11월 1일 영국 블레츨리 파크에서 서명된 첨단 인공지능의 안전 위험에 관한 국제적 이정표적 합의이다. 이 선언은 영국 정부가 주최한 AI 안전 정상회의의 주요 성과였으며, 미국, 중국, 유럽연합, 영국을 포함한 28개국 대표들이 서명했다. 이는 중국과 미국을 포함한 주요 글로벌 강국들이 처음으로 최첨단 AI 시스템의 치명적 피해 가능성을 공동으로 인정하고 AI 안전에 관한 협력적 조치에 합의한 사건이었다.
이 선언은 대규모 언어 모델과 생성형 AI에 기반한 것을 포함한 고도로 유능한 범용 모델인 "최첨단 AI"가 제기하는 위험에 초점을 맞춘다. 이 선언은 이러한 시스템이 완전히 이해되거나 통제되지 않을 수 있는 능력을 보여줄 수 있으며, 오용이나 사고를 통해 심각하거나 치명적인 피해를 초래할 수 있음을 인정한다. 본문은 인간 중심적이고 신뢰할 수 있는 AI의 중요성을 강조하고 공유 안전 표준과 연구를 개발하기 위한 국제 협력을 촉구하며, 혁신과 포용적 경제 성장 촉진과 안전의 균형을 맞출 필요성도 인정한다.
배경 및 맥락
이 선언은 AI 능력, 특히 딥러닝 모델과 트랜스포머 아키텍처 개발의 급속한 발전을 배경으로 등장했다. 정상회의 이전 몇 년 동안 OpenAI, Anthropic, Google DeepMind와 같은 기업들은 점점 더 강력한 시스템을 출시했으며, 이는 연구자와 정책 입안자들 사이에서 허위 정보 확산, 사이버 보안 위협, 초지능 시스템에 대한 통제 상실 가능성 등 잠재적 위험에 대한 우려를 불러일으켰다.
리시 수낙 총리 아래 영국 정부는 AI 안전 거버넌스의 선도자로 자리매김하며 이 정상회의를 국제 대화의 장으로 제안했다. 제2차 세계대전 당시 암호 해독의 역사적 현장인 블레츨리 파크의 선택은 상징적이었으며, 영국의 컴퓨팅 과거 기여와 AI 규제의 미래를 형성하려는 야망을 연결했다.
주요 조항 및 약속
블레츨리 선언은 구속력 없는 정치적 성명이지만 몇 가지 핵심 약속을 제시한다. 서명국들은 다음에 동의했다:
- 사이버 보안, 생명공학, 그리고 AI 시스템이 피해를 초래할 수 있는 방식으로 자율적으로 행동할 가능성에서 특히 AI가 제기하는 중대한 위험을 인식한다.
- AI 위험에 대한 공유된 과학적 이해를 개발하고 증거 기반 안전 조치를 구축하기 위한 국제 협력을 지원한다.
- UN 지속 가능 개발 목표와 같은 기존 국제 프레임워크에 부합하는 안전하고 인간 중심적이며 신뢰할 수 있고 책임 있는 AI 개발을 장려한다.
- 2024년 한국에서 계획된 다음 정상회의를 포함한 미래 정상회의를 통해 AI 안전에 관한 국제 논의를 계속 개최한다.
이 선언은 또한 공공 및 민간 부문 행위자 모두가 AI 위험을 해결해야 할 필요성을 강조하며, AI 시스템의 해석 가능성과 정렬에 대한 연구와 강력한 평가 방법 개발을 촉구한다.
서명국 및 국제적 반응
이 선언은 호주, 캐나다, 프랑스, 독일, 인도, 일본, 한국을 포함한 28개국과 EU가 서명했다. 주목할 점은 중국이 자체적인 별도 AI 규제에도 불구하고 서명국이었다는 점이며, 이는 중요한 외교적 성과로 간주되었다. 중국의 참여는 논란의 여지가 있었는데, 일부 비평가들은 불투명한 AI 관행을 가진 정부를 정당화한다고 주장했고, 다른 이들은 의미 있는 글로벌 합의에 필수적이라고 보았다.
기술 기업들도 정상회의에 참석했으며 OpenAI, Anthropic, Google DeepMind, Microsoft의 대표들이 포함되었지만, 이들은 정부 차원의 문서인 선언에 서명하지 않았다. 대신 그들은 안전 정책을 공개하고 정상회의 목표를 지원하겠다는 별도의 자발적 약속을 했다.
비판 및 한계
역사적 성격에도 불구하고 블레츨리 선언은 비판에 직면했다. 일부 전문가들은 구체적인 목표, 일정, 또는 집행 메커니즘이 부족하여 너무 모호하다고 주장한다. 구속력 없는 성격은 서명국들이 특정 조치를 취할 법적 의무가 없음을 의미한다. 다른 이들은 이 선언이 최첨단 AI의 실존적 위험에 과도하게 초점을 맞추어 알고리즘 편향, 일자리 대체, 개인정보 침해와 같은 더 즉각적인 우려를 가릴 수 있다고 지적했다.
또한 정상회의 초청 명단은 많은 개발도상국과 시민 사회 조직을 배제한 것으로 비판받았으며, 글로벌 AI 거버넌스의 포용성에 대한 의문을 제기했다. 이 선언은 개발도상국 지원 필요성을 언급하지만 구체적인 조치는 부재하다고 비평가들은 주장한다.
유산 및 영향
블레츨리 선언 2023은 국제 AI 거버넌스의 기초적 단계로 널리 간주된다. 이는 AI 안전에 관한 고위급 외교적 참여의 선례를 세웠고, 2024년 5월 서울 AI 안전 정상회의와 국제 AI 안전 보고서의 지속적인 작업과 같은 후속 이니셔티브의 길을 열었다. 실질적 영향은 아직 지켜봐야 하지만, 이 선언은 AI 위험이 조정된 행동을 요구한다는 글로벌 합의를 신호했으며, 이는 과거의 주로 국가 및 기업 주도 접근 방식에서의 전환을 의미한다.
이 선언은 또한 국내 정책에 영향을 미쳤으며, 영국과 미국을 포함한 여러 국가가 정상회의 이후 몇 달 안에 새로운 AI 안전 연구소를 발표했다. 이 연구소들은 최첨단 AI 모델을 평가하고 모범 사례를 공유하는 임무를 맡고 있으며, 이는 국제 협력에 대한 선언의 촉구를 직접적으로 반영한다.