블레츨리 서밋 성과(Bletchley Summit Outcomes)는 2023년 11월 영국 밀턴킨스의 블레츨리 파크에서 열린 인공지능 안전 및 규제에 관한 국제 회의인 AI 안전 서밋 2023의 결과를 포괄한다. 영국 정부가 주최한 이 회의는 인공지능에 전념한 최초의 글로벌 서밋이었다. 주요 성과는 28개국이 서명한 블레츨리 선언(Bletchley Declaration)으로, 공동의 AI 안전 위험 식별과 기술의 이점을 책임 있게 활용하기 위한 위험 기반 정책 수립에 초점을 맞췄다.
이 서밋은 정부 지도자, 기술 기업 임원, 연구자들을 한자리에 모아 AI 거버넌스에 관한 국제 협력의 중요한 진전을 의미했다. 또한 최첨단 AI 위험에 대한 지속적인 대화의 틀을 마련하고, 이후 AI 규제에 관한 글로벌 논의의 선례를 세웠다.
배경
당시 영국 총리였던 리시 수낙(Rishi Sunak)은 AI를 정부의 우선 과제로 삼았으며, 2023년 초 영국이 그해 가을 글로벌 AI 안전 회의를 개최할 것이라고 발표했다. 이 발표는 Large language model 시스템과 기타 Generative AI 기술의 급속한 발전에 대한 대중과 전문가의 우려가 커지는 가운데 이루어졌다. 수낙 정부는 영국을 AI 거버넌스의 선도자로 자리매김하며 혁신과 안전 조치의 균형을 추구했다.
서밋은 수개월에 걸쳐 계획되었으며, 영국 정부는 국제 파트너, 기술 기업, 학술 기관과 협의했다. 장소 선택은 의도적이었으며, 현대 AI 우려를 암호 해독과 컴퓨팅의 역사적 유산과 연결했다.
장소
블레츨리 파크는 빅토리아 시대 저택 부지에 영국 정부가 설립한 제2차 세계대전 당시 암호 해독 시설로, 영국 밀턴킨스 시에 위치한다. 이곳은 독일 통신을 해독하는 데 사용된 콜로서스(Colossus) 기계를 포함한 최초의 현대 컴퓨터 중 일부가 건설된 컴퓨팅 역사에서 중요한 역할을 했다. 현재 이곳은 박물관이자 문화 유산 명소이다.
블레츨리 파크를 선택한 것은 역사적 암호학적 성취와 현대 AI 안전 문제 사이의 연관성을 상징했다. 이 장소의 수용 능력과 보안 조치는 고위급 외교 회의, 비공개 세션, 공개 행사를 수용했다.
블레츨리 선언
핵심 성과는 미국, 중국, 호주, 유럽 연합을 포함한 28개국이 서명한 블레츨리 선언이었다. 이 선언은 AI가 안전하고, 인간 중심적이며, 신뢰할 수 있고, 책임 있는 방식으로 설계, 개발, 배포, 사용되어야 한다고 확인했다. 또한 인공지능의 도전과 위험을 관리하기 위한 국제 협력을 촉구하며, 공동 이해와 조정된 행동의 필요성을 강조했다.
선언은 공동 우려의 AI 안전 위험 식별과 각국의 위험 기반 정책 수립이라는 두 가지 주요 영역에 초점을 맞췄다. 최첨단 AI 시스템 - 가장 최신이고 강력한 모델 - 이 국경을 초월하는 독특한 위험을 제기한다는 점을 인정했다. 서명국들은 AI 안전 연구와 규제에 관한 지속적인 대화와 협력에 합의했다.
주요 우려 사항 및 주제
가장 진보되고 유능한 AI 시스템을 지칭하는 용어인 최첨단 AI 규제에 중점을 두었다. 서밋에서 제기된 우려에는 테러, 범죄 활동, 전쟁에 AI를 사용할 가능성과 인류 전체에 대한 실존적 위험이 포함되었다. 참가자들은 Machine learning 시스템의 편향과 잘못된 정보에서부터 초지능 시스템에 대한 통제 상실을 포함한 더 추측적인 시나리오에 이르기까지 다양한 위험을 논의했다.
다른 주제로는 AI 개발의 투명성 필요성, 배포 전 안전 테스트의 중요성, 국제 표준의 역할이 포함되었다. 논의는 또한 일자리 대체와 소수의 대형 기술 기업에 대한 권력 집중을 포함한 AI의 경제적 영향에도触及했다.
주요 참석자
서밋은 정부와 산업계의 고위급 참여를 이끌어냈다. 리시 수낙이 행사를 주최했다. 미국 부통령 카말라 해리스(Kamala Harris)가 직접 참석했고, 영국 국왕 찰스 3세(Charles III)는 가상으로 참여했다. 테슬라 CEO이자 X 소유주인 일론 머스크(Elon Musk)는 참석하여 11월 2일 X 플랫폼에서 수낙과의 생방송 인터뷰를 진행했다.
다른 참석자로는 이탈리아 총리 조르자 멜로니(Giorgia Meloni), 유럽 위원회 위원장 우르줄라 폰 데어 라이엔(Ursula von der Leyen), OpenAI CEO 샘 알트만(Sam Altman), 전 영국 정치인이자 메타 플랫폼 글로벌 사무 총괄인 닉 클레그(Nick Clegg), Google DeepMind 공동 창업자 무스타파 술레이만(Mustafa Suleyman), 영국 과학·혁신·기술 장관 미셸 도넬란(Michelle Donelan), 유럽 위원회 가치·투명성 담당 부위원장 베라 요우로바(Věra Jourová), 미국 상무 장관 지나 레이몬도(Gina Raimondo), 중국 과학기술부 차관 우자오후이(Wu Zhaohui)가 포함되었다.
Anthropic과 Google DeepMind을 포함한 주요 AI 기업 대표들의 참석은 규제 과정에 대한 산업계의 참여를 강조했다.
미국의 조치
서밋과 병행하여 미국 대통령 조 바이든(Joe Biden)은 AI 개발자에게 안전 결과를 미국 정부와 공유하도록 요구하는 행정 명령에 서명했다. 이 명령은 대규모 AI 시스템을 개발하는 기업이 안전 테스트와 위험 완화 조치에 대해 보고해야 한다고 규정했다. 미국 정부는 또한 국립표준기술연구소(NIST)의 일부로 설립된 미국 AI 안전 연구소(American AI Safety Institute)의 설립을 발표했다.
이러한 조치는 국제 선언을 보완하며, 글로벌 협력을 지원하면서 국내 규제 접근 방식을 보여주었다. 행정 명령은 즉각적인 위험과 장기적 거버넌스 문제를 모두 다루는 미국 AI 정책의 중요한 진전으로 간주되었다.
글로벌 AI 서밋 시리즈
블레츨리 서밋은 일련의 글로벌 AI 안전 서밋을 시작했다. 후속 회의는 선언의 원칙을 바탕으로 계획되었으며, 다음 서밋은 2024년 한국이 주최했다. 이 시리즈는 정부, 산업계, 시민 사회를 모아 진화하는 도전을 해결하며 AI 거버넌스에 대한 추진력을 유지하는 것을 목표로 한다.
서밋 시리즈는 AI 안전이 지속적인 협력을 요구하는 초국가적 문제라는 인식을 반영한다. 각 회차는 광범위한 선언에서 실행 가능한 정책으로 이동하며 더 구체적인 약속과 기술 표준을 산출할 것으로 기대된다.
유산 및 영향
블레츨리 서밋 성과는 국제 AI 거버넌스의 기준선을 설정했다. 인간 중심적이고 책임 있는 AI 개발에 대한 선언의 강조는 여러 국가의 이후 정책 논의에 영향을 미쳤다. 서밋은 또한 안전 논의에서 최첨단 AI 기업의 역할을 부각시켜 정부 규제와 함께 자발적 약속을 장려했다.
비평가들은 선언이 구속력이 없고 구체적인 집행 메커니즘이 부족하다고 지적했다. 그러나 지지자들은 서밋의 가치가 미래 행동을 위한 공동 틀과 정치적 의지를 창출하는 데 있다고 주장했다. 이 행사는 또한 AI 위험에 대한 대중의 인식을 높여 기술 궤적에 대한 더 넓은 사회적 논의에 기여했다.
참고 자료
- AI 안전 서밋 2023 공식 문서
- 블레츨리 선언 전문
- 영국 정부 서밋 관련 보도 자료