2023년 AI 안전 정상회의(AI Safety Summit 2023)는 인공지능의 안전과 규제에 관한 국제 회의였다. 영국 정부가 주최한 이 회의는 2023년 11월 잉글랜드 밀턴킨스의 블레츨리 파크에서 개최되었다. 이 행사는 인공지능에 관한 최초의 글로벌 정상회의로, 정부 지도자, 기술 기업 임원, 연구자들이 한자리에 모여 고급 AI 시스템이 제기하는 위험과 기회를 논의했다. 정상회의는 공유된 관심사인 AI 안전 위험을 식별하고 기술의 이점을 모두를 위해 책임감 있게 활용할 수 있도록 각자의 위험 기반 정책을 수립하는 데 초점을 맞춘 공동 합의인 블레츨리 선언(Bletchley Declaration)의 발표로 이어졌다.
이 정상회의는 미국, 중국, 유럽연합을 포함한 주요 세계 강국들이 AI 위험 해결을 위한 공통 프레임워크에 공식적으로 합의한 최초의 사례라는 점에서 국제 AI 거버넌스의 중요한 이정표를 세웠다. 이 행사는 컴퓨팅과 암호학의 역사적 중요성을 지닌 장소인 블레츨리 파크에서 열렸으며, 이곳은 AI의 미래에 대한 논의의 상징적 배경이 되었다.
배경
당시 영국 총리였던 리시 수낙(Rishi Sunak)은 AI를 정부의 우선 과제 중 하나로 삼아 2023년 가을에 글로벌 AI 안전 회의를 개최하겠다고 발표했다. 이 발표는 인공지능 기술의 급속한 발전, 특히 강력한 대규모 언어 모델과 생성형 AI 시스템의 등장에 대한 전 세계적 우려가 커지는 가운데 나왔다. 수낙 정부는 AI 연구 개발 분야에서 영국의 기존 강점을 바탕으로 영국을 AI 안전 및 규제 분야의 선도국으로 자리매김하고자 했다.
이 정상회의는 AI 연구자와 산업계 지도자들이 AI 안전을 위한 국제적 공동 대응을 촉구한 데 대한 응답으로 계획되었다. 행사가 열리기 몇 달 전, OpenAI, Google DeepMind, Anthropic의 임원들을 포함한 AI 커뮤니티의 여러 저명한 인사들이 고급 AI 시스템과 관련된 잠재적 위험을 완화하기 위한 정부 개입을 공개적으로 옹호했다.
장소
블레츨리 파크는 빅토리아 시대 저택 부지에 영국 정부가 설립한 제2차 세계대전 당시의 암호 해독 시설로, 영국 도시 밀턴킨스에 있다. 이곳은 컴퓨팅 역사에서 중요한 역할을 했으며, 최초의 현대 컴퓨터 중 일부가 이 시설에서 제작되었다. 제2차 세계대전 동안 이곳에는 정부 암호 학교(Government Code and Cypher School)가 있었으며, 앨런 튜링(Alan Turing)과 같은 인물이 이끄는 암호 해독자들이 독일 통신을 성공적으로 해독하여 연합군의 전쟁 노력에 크게 기여했다.
블레츨리 파크를 장소로 선택한 것은 의도적인 결정으로, 컴퓨팅에 대한 영국의 역사적 기여와 디지털 시대의 도전 과제 해결에 대한 헌신을 상징했다. 이 시설은 현재 박물관이자 유산 유적으로 운영되고 있으며, 역사적인 건물들은 정상회의 진행을 위한 독특한 배경을 제공했다. 이곳의 전시 역사와 AI 안전의 현대적 도전 과제가 대비되면서 기술적 위협 해결에 있어 국제 협력의 중요성이 강조되었다.
블레츨리 선언
정상회의의 주요 성과는 미국, 중국, 호주, 유럽연합을 포함한 28개국이 서명한 합의인 블레츨리 선언이었다. 이 선언은 인공지능의 도전 과제와 위험을 관리하기 위한 국제 협력을 촉구했다. 또한 AI가 안전하고, 인간 중심적이며, 신뢰할 수 있고, 책임감 있는 방식으로 설계, 개발, 배포, 사용되어야 한다고 명시했다.
이 선언은 공유된 관심사인 AI 안전 위험을 식별하고 기술의 이점을 모두를 위해 책임감 있게 활용할 수 있도록 각자의 위험 기반 정책을 수립하는 데 초점을 맞췄다. 또한 AI가 사회와 경제를 변화시킬 잠재력을 인정하면서도 잠재적 피해에 대한 경계의 필요성을 인정했다. 이 합의는 AI 거버넌스에서 투명성, 책임성, 국제 협력의 중요성을 강조했다.
최신이자 가장 강력한 AI 시스템을 가리키는 용어인 "프론티어 AI(Frontier AI)" 규제에 중점을 두었다. 정상회의에서 제기된 우려에는 테러, 범죄 활동, 전쟁에 AI를 사용할 가능성과 인류 전체에 대한 실존적 위험이 포함되었다. 이 선언은 구속력 있는 규제를 수립하지는 않았지만, 향후 협력과 정책 개발을 위한 프레임워크를 설정했다.
성과와 약속
블레츨리 선언 외에도 정상회의는 몇 가지 주목할 만한 성과를 냈다. 미국 대통령 조 바이든(Joe Biden)은 AI 개발자들이 안전 결과를 미국 정부와 공유하도록 요구하는 행정 명령에 서명했다. 미국 정부는 또한 국립표준기술연구소(National Institute of Standards and Technology)의 일부로 미국 AI 안전 연구소(American AI Safety Institute) 설립을 발표했다. 이러한 조치는 미국에서 AI 규제에 대한 보다 적극적인 접근을 시사했다.
기술 기업가 일론 머스크(Elon Musk)와 수낙은 11월 2일 머스크가 소유한 소셜 미디어 플랫폼 X에서 AI 안전에 관한 라이브 인터뷰를 진행했다. 대화는 AI의 잠재적 이점과 위험, 규제의 필요성, AI 개발의 미래와 같은 주제를 다루었다. 이 인터뷰는 널리 시청되었고 상당한 언론의 주목을 받아 정상회의의 위상을 더욱 높였다.
여러 참가국들은 정상회의 이후 자체 AI 안전 이니셔티브를 발표했다. 영국 정부는 자체 AI 안전 연구소 설립을 약속했고, 다른 국가들은 AI 안전 연구에 대한 자금 지원을 늘리겠다고 다짐했다. 정상회의는 또한 미국과 중국 간의 AI 거버넌스 문제에 관한 논의를 포함한 양자 회담을 촉진했다.
주요 참석자
다음 인물들이 정상회의에 참석했다:
- 리시 수낙, 영국 총리
- 카말라 해리스(Kamala Harris), 미국 부통령
- 찰스 3세(Charles III), 영국 국왕 (화상 참석)
- 일론 머스크, 테슬라 CEO, X, 스페이스X, 뉴럴링크, xAI 소유자
- 조르자 멜로니(Giorgia Meloni), 이탈리아 총리
- 우르줄라 폰데어라이엔(Ursula von der Leyen), 유럽연합 집행위원회 위원장
- 샘 알트만(Sam Altman), OpenAI CEO
- 닉 클레그(Nick Clegg), 전 영국 정치인, 메타 플랫폼 글로벌 사무 총괄
- 무스타파 술레이만(Mustafa Suleyman), DeepMind 공동 창업자
- 미셸 도넬란(Michelle Donelan), 영국 과학·혁신·기술부 장관
- 베라 유로바(Věra Jourová), 유럽연합 집행위원회 가치·투명성 담당 부위원장
- 지나 레이몬도(Gina Raimondo), 미국 상무부 장관
- 우자오후이(Wu Zhaohui), 중국 과학기술부 차관
이처럼 다양한 정치 지도자와 기술 기업 임원들의 참석은 정상회의의 글로벌 중요성을 강조했다. 기술 정책에 대해 종종 상반된 견해를 가진 미국과 중국 양국의 대표가 참석한 것은 특히 주목할 만했으며, AI 안전에 관한 국제 협력의 가능성을 부각시켰다.
반응과 비판
정상회의는 다양한 이해관계자들로부터 엇갈린 반응을 얻었다. 지지자들은 이 회의가 국제 AI 거버넌스를 위한 필요한 첫 걸음이며, 이 분야의 주요 행위자들을 처음으로 한자리에 모았다고 칭찬했다. 블레츨리 선언은 그 약속이 대체로 비구속적이었음에도 불구하고 긍정적인 발전으로 여겨졌다.
그러나 비판자들은 정상회의가 구체적인 행동을 결여했고 선언이 의미 있는 영향을 미치기에는 너무 모호하다고 주장했다. 일부 AI 안전 연구자들은 정상회의가 AI 투명성, 책임성, AI 오용 방지와 같은 문제에 대해 더 구체적인 약속을 도출하지 못한 데 실망을 표했다. 다른 이들은 정상회의가 실존적 위험에 초점을 맞춘 나머지 알고리즘 편향, 일자리 대체, 소수의 대기업에 AI 권력 집중과 같은 더 즉각적인 우려를 가렸는지 의문을 제기했다.
일부 관찰자들은 또한 많은 개발도상국과 시민 사회 단체의 대표를 포함한 특정 핵심 이해관계자의 부재를 지적했다. 정상회의는 서방 정부와 기술 기업이 주도하고 다른 관점의 의견이 제한적이었다는 비판을 받았다.
글로벌 AI 정상회의 시리즈
블레츨리 파크 정상회의는 글로벌 AI 안전 정상회의 시리즈의 첫 번째였다. 후속 행사들은 초기 회의에서 생성된 모멘텀을 바탕으로 AI 거버넌스의 지속적인 도전 과제를 해결하기 위해 계획되었다. 이 시리즈는 시간이 지남에 따라 더 구체적인 정책 프레임워크를 개발하는 것을 목표로 AI 안전에 관한 국제 대화를 위한 정기적인 포럼을 제공하도록 설계되었다.
정상회의 시리즈는 AI 안전이 국가 경계를 넘어 조정된 행동을 요구하는 글로벌 문제라는 인식의 성장을 반영했다. AI 기술이 계속 발전함에 따라 효과적인 거버넌스 메커니즘의 필요성은 점점 더 시급해지고 있다. 블레츨리 파크 정상회의와 그 후속 회의들은 국제 협력을 통해 이러한 도전 과제를 해결하려는 중요한 노력을 대표한다.
유산과 영향
블레츨리 파크 AI 안전 정상회의는 AI 규제에 관한 글로벌 대화의 전환점을 표시했다. 이 회의는 AI 안전을 전 세계 정부의 우선 과제로 확립하고 향후 정책 개발을 위한 기반을 마련했다. 정상회의의 프론티어 AI 강조는 가장 진보되고 잠재적으로 가장 위험한 AI 시스템에 주의를 집중시키는 데 도움이 되었으며, 국제 협력 촉구는 기술 거버넌스에 대한 다자간 참여의 선례를 설정했다.
정상회의는 또한 AI에 대한 공공 담론의 광범위한 변화에 기여하여 기술적 능력에 대한 논의를 넘어 AI 배포의 사회적·윤리적 함의를 고려하게 했다. 블레츨리 선언의 안전, 인간 중심성, 신뢰성, 책임성 원칙은 이후 다양한 국가 및 국제 정책 문서에서 참조되었다. 2024년 현재, 정상회의 시리즈는 계속 진화하고 있으며, 후속 회의들은 새로운 도전 과제를 다루고 블레츨리 파크에서 수립된 기반 위에 구축하고 있다.