블레츨리 선언(Bletchley Declaration)은 2023년 11월 1일 인공지능의 안전과 규제에 관한 최초의 국제 회의인 AI 안전 정상회의에서 발표된 국제 협정이다. 영국 정부가 주최하고 영국 밀턴킨스의 블레츨리 파크에서 열린 이 선언은 미국, 중국, 호주, 유럽 연합을 포함한 28개국이 서명했다. 이 선언은 "공동 우려 사항인 AI 안전 위험 식별"과 "각국의 위험 기반 정책 수립"에 초점을 맞추며, 기술의 이점이 책임감 있게 모두를 위해 활용될 수 있도록 보장하는 것을 목표로 한다.
이 선언은 AI가 안전하고, 인간 중심적이며, 신뢰할 수 있고, 책임 있는 방식으로 설계, 개발, 배포 및 사용되어야 한다고 확인한다. 또한 AI의 과제와 위험, 특히 최신이자 가장 강력한 AI 시스템을 지칭하는 용어인 "프런티어 AI"가 제기하는 위험을 관리하기 위한 국제적 협력의 필요성을 강조한다. 이 협정은 비구속적이며 참여국의 자발적 약속에 의존하지만, AI의 글로벌 거버넌스에 있어 중요한 진전을 의미한다.
배경
2023년 AI 안전 정상회의는 영국 총리리시 수낙이 발표했으며, 그는 AI를 정부의 우선 과제로 삼았다. 2023년 봄, 수낙은 영국이 그해 가을에 글로벌 AI 안전 회의를 개최할 것이라고 밝혔다. 이 정상회의는 2021년에 발표된 영국의 국가 AI 전략과 같은 기존 이니셔티브를 바탕으로 AI 규제와 혁신에서 영국을 선도국으로 자리매김하려는 더 넓은 영국 전략의 일부였다.
정상회의를 블레츨리 파크에서 개최하기로 한 결정은 이 장소의 역사적 중요성을 고려한 의도적인 선택이었다. 블레츨리 파크는 빅토리아 시대 저택 부지에 영국 정부가 설립한 제2차 세계 대전 암호 해독 시설이었다. 이곳은 콜로서스와 같은 최초의 현대 컴퓨터 중 일부가 건설된 곳으로 컴퓨팅 역사에서 중요한 역할을 했다. 장소 선택은 현대 AI 개발을 영국의 컴퓨팅 유산과 연결했다.
장소 및 조직
블레츨리 파크는 영국 버킹엄셔의 도시인 밀턴킨스에 위치해 있다. 이 시설은 제2차 세계 대전 중 정부 암호 학교로 운영되었으며, 앨런 튜링을 포함한 암호 분석가들이 독일 통신을 해독하기 위해 작업했다. 이곳은 현재 박물관을 운영하며 영국 기술 성취의 상징으로 사용된다.
이 정상회의는 영국 과학·혁신·기술부가 내각 사무소의 지원을 받아 조직했다. 행사는 이틀에 걸쳐 진행되었으며, 첫째 날은 정부와 산업계 지도자에 초점을 맞추었고 둘째 날은 연구자와 학계 간의 기술 논의에 할애되었다. 정상회의에는 전 세계 정부, 기술 기업, 학술 기관의 대표들이 참석했다.
주요 성과
정상회의의 주요 성과는 28개국과 유럽 연합이 서명한 블레츨리 선언이었다. 이 선언은 경제 성장, 과학적 발견, 사회적 진보를 위한 AI의 변혁적 잠재력을 인정하는 동시에 AI가 제기하는 중대한 위험도 인정한다. 이러한 위험에는 테러리즘, 범죄 활동, 전쟁에 AI가 사용될 가능성과 인류 전체에 대한 실존적 위험이 포함된다.
선언은 서명국들에게 다음을 약속한다:
- 공동 우려 사항인 AI 안전 위험 식별 및 이해
- AI의 안전한 개발과 사용을 보장하기 위한 각국의 위험 기반 정책 수립
- AI 안전 연구에 대한 국제 협력 지원
- AI 개발에서 투명성과 책임성 증진
정상회의는 또한 여러 국가 차원의 이니셔티브로 이어졌다. 미국 대통령 조 바이든은 AI 개발자들이 미국 정부와 안전 결과를 공유하도록 요구하는 행정 명령에 서명했다. 미국 정부는 AI 테스트 및 평가를 위한 표준을 개발하기 위해 국립표준기술연구소(NIST)의 일부로 미국 AI 안전 연구소 설립을 발표했다.
주요 참석자
정상회의에는 고위 정치 및 산업 인사들이 참석했다. 주요 참석자는 다음과 같다:
- 영국 총리 리시 수낙
- 미국 부통령 카말라 해리스
- 영국 국왕 찰스 3세(가상으로 참석)
- 테슬라 CEO, X, 스페이스X, 뉴럴링크, xAI 소유자 일론 머스크
- 이탈리아 총리 조르자 멜로니
- 유럽 위원회 위원장 우르줄라 폰데어라이엔
- OpenAI CEO 샘 올트먼
- 전 영국 정치인이자 메타 플랫폼 글로벌 사무 총괄 닉 클레그
- DeepMind 공동 창업자 무스타파 술레이만
- 영국 과학·혁신·기술 장관 미셸 도넬란
- 유럽 위원회 가치·투명성 담당 부위원장 베라 요우로바
- 미국 상무 장관 지나 레이몬도
- 중국 과학 기술부 차관 우자오후이
중국 관리들의 참석은 AI 거버넌스에 관한 미국-중국 간 고위급 협력의 드문 사례로 주목받았다. 정상회의에는 Anthropic, Google DeepMind, Amazon Web Services와 같은 주요 AI 기업 대표들도 포함되었다.
논의 및 토론
정상회의 기간 동안 참가자들은 다양한 AI 안전 문제를 논의했다. 주요 주제 중 하나는 프런티어 AI 규제였으며, 일부 참가자는 엄격한 감독을 주장하고 다른 참가자는 더 허용적인 접근 방식을 선호했다. AI가 허위 정보 캠페인, 사이버 공격, 자율 무기에 사용될 가능성에 대한 우려가 제기되었다.
주목할 만한 사건은 11월 2일 X(구 트위터)에서 방송된 일론 머스크와 리시 수낙 간의 생중계 인터뷰였다. 대화에서 머스크는 AI의 실존적 위험에 대해 경고하고 선제적 규제를 촉구했으며, 수낙은 기술의 경제적 이점을 강조했다. 이 인터뷰는 상당한 언론의 주목을 받았으며 혁신과 안전 사이의 적절한 균형에 대한 논쟁을 촉발했다.
반응 및 비판
블레츨리 선언은 엇갈린 반응을 얻었다. 지지자들은 미국과 중국을 포함한 주요 강대국을 한자리에 모은 역사적인 첫 걸음으로 칭찬했다. 그러나 비판자들은 선언이 비구속적이며 구체적인 집행 메커니즘이 부족하다고 지적했다. 일부 전문가들은 정상회의가 알고리즘 편향, 개인 정보 침해, 노동 대체와 같은 즉각적인 피해보다는 추측성 실존 위험에 너무 초점을 맞추었다고 주장했다.
시민 사회 단체들은 비서구권 목소리의 배제와 논의에서 산업계 대표의 우세에 대한 우려를 표명했다. 정상회의는 노동 조합, 소비자 단체, 개발도상국의 대표를 포함하지 않아 결과 정책의 포용성을 제한할 수 있다는 비판을 받았다.
글로벌 AI 정상회의 시리즈
블레츨리 정상회의는 AI 안전에 관한 일련의 국제 회의 중 첫 번째로 의도되었다. 선언은 후속 정상회의가 다른 국가에서 계획된 지속적인 대화를 위한 틀을 마련했다. 한국이 2024년으로 예정된 다음 정상회의 개최국으로 발표되었고, 프랑스가 2025년에 이어 개최할 예정이다. 이 시리즈는 블레츨리 선언의 추진력을 바탕으로 AI 거버넌스에 대한 더 구체적인 국제 협정을 개발하는 것을 목표로 한다.
이 시리즈는 AI 안전이 조정된 행동을 요구하는 글로벌 문제라는 인식이 커지고 있음을 반영한다. AI 시스템이 더 강력하고 광범위해짐에 따라 국제 규범과 표준의 필요성은 더욱 증가할 가능성이 높다. 블레츨리 선언은 초기 단계의 비구속적 문서이지만, 이러한 진행 중인 과정에서 기초 문서를 대표한다.
유산 및 의의
블레츨리 선언은 정부 차원에서 AI 안전을 구체적으로 다룬 최초의 국제 협정이라는 점에서 중요하다. 이 선언은 AI 위험을 논의하기 위한 공통 언어를 확립하고 향후 외교적 노력에 선례를 설정했다. 블레츨리 파크를 장소로 선택한 것은 컴퓨팅과 국가 안보 사이의 역사적 연결을 강조하며, 기술의 이중 용도 특성을 참가자들에게 상기시켰다.
선언의 실질적 영향은 아직 지켜봐야 하지만, 이후 정책 논의에 영향을 미쳤다. 미국 AI 안전 연구소와 같은 국가 차원의 AI 안전 기관 설립과 지속적인 글로벌 정상회의 시리즈는 블레츨리 선언이 AI 위험에 대한 제도적 대응을 촉발했음을 시사한다. 2025년 현재, 선언은 정책 논쟁에서 계속 언급되며 AI 거버넌스에 대한 국제 협력의 기준점 역할을 하고 있다.