2023년 AI 안전 정상회의(AI Safety Summit 2023)는 인공지능의 안전과 규제에 초점을 맞춘 국제 회의였다. 영국 정부가 주최한 이 회의는 2023년 11월 잉글랜드 밀턴킨스의 블레츨리 파크에서 개최되었다. 이 행사는 인공지능에 관한 최초의 글로벌 정상회의로, 정부 지도자, 기술 기업 임원, 연구자들이 모여 고급 AI 시스템과 관련된 위험을 다루었다. 이 정상회의는 "공동 관심사인 AI 안전 위험 식별"과 "기술의 혜택을 모두를 위해 책임 있게 활용할 수 있도록 각국의 위험 기반 정책 수립"에 초점을 맞춘 블레츨리 선언(Bletchley Declaration)의 발표로 이어졌다.
이 정상회의는 미국과 중국을 포함한 주요 강대국들이 AI 안전에 관한 공동 성명에 처음으로 합의했다는 점에서 Artificial intelligence 거버넌스에 관한 글로벌 논의에서 중요한 전환점이 되었다. 또한 이 행사는 정상회의 이전 수년간 급속도로 발전해 온 Large language model 및 Generative AI 기술의 중요성이 커지고 있음을 강조했다.
배경
당시 영국 총리였던 리시 수낙(Rishi Sunak)은 AI를 정부의 우선 과제 중 하나로 삼아, 영국이 2023년 가을에 글로벌 AI 안전 회의를 개최할 것이라고 발표했다. 이 발표는 허위 정보, 사이버 공격, 자율 무기에서의 AI 사용 가능성을 포함한 AI의 잠재적 위험에 대한 대중과 정부의 우려가 커지는 가운데 나왔다. 수낙 정부는 컴퓨팅 분야의 역사적 기여와 강력한 학계 및 산업계 AI 부문을 바탕으로 영국을 AI 안전 규제의 선두주자로 자리매김하고자 했다.
이 정상회의는 고위급 외교 행사로 계획되었으며, 국가 원수, 기술 기업 CEO, 주요 AI 연구자들에게 초청장이 발송되었다. 영국 정부는 AI 위험이 본질적으로 글로벌한 성격을 띠며 조율된 대응이 필요하다고 주장하며 국제 협력의 필요성을 강조했다.
장소
블레츨리 파크는 빅토리아 시대 저택 부지에 영국 정부가 설립한 제2차 세계대전 당시 암호 해독 시설로, 영국 밀턴킨스 시에 위치해 있다. 이곳은 최초의 현대 컴퓨터 중 일부가 건설된 곳으로 컴퓨팅 역사에서 중요한 역할을 해왔다. 장소 선택은 상징적이었는데, 블레츨리 파크는 앨런 튜링(Alan Turing)과 같은 인물들이 에니그마(Enigma) 암호 해독에 힘썼던 현대 컴퓨팅의 발상지로 널리 인정받고 있기 때문이다.
이 장소의 역사적 의미는 연사와 참석자들에 의해 강조되었으며, 그들은 1940년대의 암호 해독 노력과 현대 AI를 이해하고 통제해야 하는 당면 과제 사이의 유사점을 지적했다. 또한 이 장소는 현대 AI 시스템의 기반이 되는 Transformer (architecture) 아키텍처의 개발에 이르기까지 컴퓨팅 초기부터의 영국의 기술 혁신 유산을 참가자들에게 상기시키는 역할을 했다.
결과
미국, 중국, 호주, 유럽 연합을 포함한 28개국이 정상회의에서 인공지능의 도전과 위험을 관리하기 위한 국제 협력을 촉구하는 블레츨리 선언으로 알려진 협정을 발표했다. 블레츨리 선언은 AI가 안전하고 인간 중심적이며 신뢰할 수 있고 책임 있는 방식으로 설계, 개발, 배포 및 사용되어야 한다고 명시한다.
최신이자 가장 강력한 AI 시스템을 지칭하는 용어인 "프론티어 AI(Frontier AI)" 규제에 중점이 두어졌다. 정상회의에서 제기된 우려에는 테러, 범죄 활동, 전쟁에 AI가 사용될 가능성과 인류 전체에 대한 실존적 위험이 포함되었다. 이 선언은 구체적인 규제 목표를 설정하지는 않았지만, 추가 정상회의 개최 약속을 포함한 향후 논의를 위한 틀을 마련했다.
선언 외에도 여러 국가 차원의 이니셔티브가 발표되었다. 미국 대통령 조 바이든(Joe Biden)은 AI 개발자들이 안전 결과를 미국 정부와 공유하도록 요구하는 행정 명령에 서명했다. 미국 정부는 또한 국립표준기술연구소(National Institute of Standards and Technology)의 일부로 미국 AI 안전 연구소(American AI Safety Institute) 설립을 발표했다. 이러한 조치는 AI 개발의 투명성과 책임성에 대한 정상회의의 강조에 대한 직접적인 대응으로 여겨졌다.
기술 기업가 일론 머스크(Elon Musk)와 수낙은 11월 2일 머스크가 소유한 소셜 미디어 플랫폼 X에서 AI 안전에 관한 라이브 인터뷰를 진행했다. 광범위한 청중에게 방송된 이 인터뷰는 AI가 인간 지능을 능가할 가능성과 규제 감독의 필요성과 같은 주제를 다루었다. 이전에 AI 개발 중단을 촉구했던 머스크는 실존적 위험에 대한 자신의 우려를 재차 강조했다.
주요 참석자
다음 인사들이 정상회의에 참석했다:
- 리시 수낙, 영국 총리
- 카멀라 해리스(Kamala Harris), 미국 부통령
- 찰스 3세(Charles III), 영국 국왕 (화상 참석)
- 일론 머스크, 테슬라 CEO, X, 스페이스X, 뉴럴링크, xAI 소유주
- 조르자 멜로니(Giorgia Meloni), 이탈리아 총리
- 우르줄라 폰 데어 라이엔(Ursula von der Leyen), 유럽 집행위원회 위원장
- 샘 올트먼(Sam Altman), OpenAI CEO
- 닉 클레그(Nick Clegg), 전 영국 정치인, 메타 플랫폼스 글로벌 사무 총괄 사장
- 무스타파 술레이만(Mustafa Suleyman), Google DeepMind 공동 창업자
- 미셸 도넬런(Michelle Donelan), 영국 과학·혁신·기술부 장관
- 베라 요우로바(Věra Jourová), 유럽 집행위원회 가치·투명성 담당 부위원장
- 지나 레이몬도(Gina Raimondo), 미국 상무부 장관
- 우자오후이(Wu Zhaohui), 중국 과학기술부 차관
서방과 동방 강대국의 고위 정치 인사들이 참석한 것은 이 행사의 글로벌한 중요성을 강조했다. 샘 올트먼과 무스타파 술레이만과 같은 업계 지도자들의 참여는 AI 개발자와 정책 입안자 간의 긴밀한 관계와 Anthropic 및 Google DeepMind와 같은 기업들이 규제 환경을 형성하는 데 있어 영향력이 커지고 있음을 부각시켰다.
글로벌 AI 정상회의 시리즈
블레츨리 파크 정상회의는 AI 안전에 관한 일련의 국제 회의 중 첫 번째가 될 예정이었다. 이 선언에는 초기 협정을 바탕으로 새로운 도전 과제를 해결하기 위한 목적으로 향후 정상회의를 개최하겠다는 약속이 포함되었다. 이 시리즈는 정부뿐만 아니라 기술 기업, 학계, 시민 사회를 포함한 포괄적인 성격을 지니도록 설계되었다.
후속 정상회의는 2024년 한국에서 개최될 예정이었으며, 세 번째는 프랑스에서 계획되었다. 이어지는 회의들은 AI 테스트 및 평가 기준과 국제적 집행 협력 메커니즘을 포함한 보다 구체적인 규제 제안에 초점을 맞출 것으로 예상되었다.
이 정상회의 시리즈는 전 세계 국가들이 빠른 AI 개발 속도에 대응하면서 AI 거버넌스를 공식화하려는 광범위한 추세를 반영했다. 블레츨리 파크에서의 논의는 MIT CSAIL, Stanford AI Lab, BAIR (Berkeley AI Research)와 같은 기관의 연구와 안전과 윤리에 더 큰 관심을 촉구해 온 Samy Bengio 및 Melanie Mitchell과 같은 저명한 AI 연구자들의 작업에 의해 뒷받침되었다.
의의와 유산
블레츨리 파크 AI 안전 정상회의는 AI 거버넌스 역사에서 획기적인 사건으로 널리 평가되었다. 민주주의 정부와 권위주의 정부를 모두 포함한 광범위한 국가 연합이 AI 위험 해결을 위한 공동 프레임워크에 합의한 것은 이번이 처음이었다. 이 정상회의는 또한 AI 안전 문제를 공론화하는 데 기여하여 언론 보도와 공개 토론을 증가시켰다.
그러나 비평가들은 정상회의의 결과가 대체로 상징적이며, 블레츨리 선언에는 구속력 있는 약속이나 구체적인 집행 메커니즘이 부족하다고 지적했다. 일부 연구자들은 프론티어 AI의 실존적 위험에 대한 초점이 알고리즘 편향, 일자리 대체, 소수의 대형 기술 기업에의 권력 집중과 같은 보다 즉각적인 우려를 가릴 수 있다고 주장했다.
이러한 비판에도 불구하고, 이 정상회의는 AI 개발과 배포의 글로벌한 성격을 고려할 때 필수적인 것으로 여겨지는 AI 거버넌스를 위한 외교적 채널을 구축하는 데 성공했다. 이 행사는 또한 연구와 혁신의 강점을 바탕으로 기술 정책 분야에서 영국의 중재자 역할을 부각시켰다.
이 정상회의의 유산은 글로벌 AI 정상회의 시리즈가 선언을 구체적인 행동으로 전환하는 데 얼마나 효과적인지에 따라 평가될 가능성이 높다. 2024년 현재, 초기 협정은 아직 주요 규제 변화로 이어지지 않았지만, 지속적인 대화는 AI의 혜택을 활용하면서 위험을 관리하기 위한 긍정적인 단계로 여겨졌다.