서울 선언은 2024년 5월에 개최되고 대한민국 정부와 영국 정부가 공동 주최한 AI 서울 정상회의 2024에서 채택된 공식 서약이다. 이 선언은 인공지능 기술이 제시하는 도전과 기회를 다루며, 블레츨리 선언과 같은 초기의 국제적 노력을 바탕으로 한다. 이는 참여국들 간의 합의를 대표하여 강화된 글로벌 협력과 상호 운용 가능한 거버넌스 체계의 수립을 통해 안전하고 혁신적이며 포용적인 AI 개발을 촉진하는 것을 목표로 한다.
이 선언은 유럽 연합, 미국, 영국, 호주, 캐나다, 독일, 프랑스, 이탈리아, 일본, 대한민국, 싱가포르의 정상들이 서명했다. 그 채택은 국제 AI 정책의 진화하는 환경에서 중요한 단계를 표시하며, 단순한 위험 인식을 넘어 협력적 거버넌스를 위한 구체적인 서약으로 나아갔다.
배경
AI 서울 정상회의는 2023년 11월 영국에서 개최된 AI 안전 정상회의에 이어 AI 안전에 전념한 두 번째 주요 국제 회의였다. 초기 블레츨리 파크 회의에서 참여국들은 공동의 관심사인 AI 안전 위험 식별을 우선시하기로 합의했다. 서울 정상회의는 이 기반 위에 구축되었으며, 정상들은 경제 성장, 과학적 진보, 사회적 복지를 위한 AI의 광범위한 중요성도 인식했다.
이 정상회의는 Generative AI 및 Large language model 기술의 급속한 발전을 배경으로 개최되었다. OpenAI, Google DeepMind, Anthropic과 같은 기업들은 점점 더 강력한 시스템을 출시했으며, 이에 따라 정부들은 안전장치를 마련하기 위한 노력을 가속화했다. 블레츨리 선언은 예비적 체계를 수립했지만, 서울 선언은 보다 구체적인 서약을 통해 이러한 원칙을 실행 가능하게 만들고자 했다.
주요 참석자
이 정상회의에는 미국, 캐나다, 프랑스, 독일을 포함한 주요 7개국(G7) 정상들과 대한민국, 싱가포르, 호주가 참석했다. 유엔, 경제협력개발기구, 유럽 연합을 포함한 국제 기구 대표들도 참여했다.
산업계 대표도 상당했으며, 이는 기술과 정책의 교차점이 점점 확대되고 있음을 반영한다. 주요 참석자로는 테슬라 CEO 일론 머스크, 삼성전자 회장 이재용, 그리고 OpenAI, 구글, 마이크로소프트, 메타, 한국의 대표 포털 운영사인 네이버의 대표들이 포함되었다. 이러한 기술 지도자들의 참석은 AI 거버넌스 형성에 있어 민간 부문 참여의 중요성을 강조했다.
한국 AI 안전 센터
이 정상회의의 주요 성과 중 하나는 한국이 국내 AI 안전 연구 센터를 설립하겠다는 서약이었다. 이종호 과학기술정보통신부 장관은 한국이 2024년에 AI 안전 연구소를 개설할 계획이라고 발표했으며, 이를 통해 글로벌 AI 안전 생태계에서 중요한 역할을 하는 국가로 자리매김했다.
이 계획에는 유사한 기관들의 국제 네트워크에 참여하여 AI 안전 문제에 대한 정보 공유와 협력 연구를 촉진하는 방안이 포함되었다. 이 장관은 또한 국제 표준 개발을 위한 협력을 강화하겠다는 한국의 의사를 표명했으며, 이는 국경을 넘는 조화된 기술 사양의 필요성을 인식한 것이다.
이러한 움직임은 각국이 AI 안전 연구를 위한 전담 기관을 설립하는 광범위한 추세를 반영했다. 이러한 센터의 설립은 고급 AI 시스템과 관련된 위험을 평가하고 완화하는 데 필요한 기술 전문성을 개발하는 데 필수적인 것으로 간주되었다.
안전하고 혁신적이며 포용적인 AI를 위한 서울 선언
안전하고 혁신적이며 포용적인 AI를 위한 서울 선언은 정상회의의 주요 결과 문서였다. 이는 EU, 미국, 영국, 호주, 캐나다, 독일, 프랑스, 이탈리아, 일본, 대한민국, 싱가포르를 대표하는 정상들에 의해 채택되었다. 이 선언은 서명국들이 국가 간 상호 운용 가능한 AI 거버넌스 체계 개발을 돕기 위한 국제 협력을 촉진할 것을 서약한다.
이 선언의 중요한 요소는 히로시마 프로세스 고급 AI 시스템 개발 조직을 위한 국제 행동 강령의 통합이다. 일본의 G7 의장국 하에 개발된 이 강령은 고급 AI 시스템을 개발하는 조직을 위한 지침을 제공하며, 위험 관리, 투명성, 책임성과 같은 영역을 다룬다.
이 선언은 인간 중심의 AI 개발을 옹호하며, 민간 부문, 학계, 시민 사회와의 협력을 강조한다. 이러한 다중 이해관계자 접근 방식은 효과적인 AI 거버넌스가 정부뿐만 아니라 다양한 행위자들의 입력을 필요로 한다는 점을 인식한다.
서울 선언은 또한 혁신의 필요성을 다루며, 지나치게 제한적인 규제가 AI의 유익한 응용을 억압할 수 있음을 인정한다. 정책 입안자들의 과제는 해악으로부터 보호하면서도 지속적인 기술 발전을 허용하는 체계를 만드는 것이다.
AI 안전 증진을 위한 서울 각료 성명
정상 선언에 더하여, 정상회의는 AI 안전 증진을 위한 서울 각료 성명을 산출했다. 이 공동 성명은 호주, 캐나다, 칠레, 프랑스, 독일, 인도, 인도네시아, 이스라엘, 이탈리아, 일본, 케냐, 멕시코, 네덜란드, 나이지리아, 뉴질랜드, 필리핀, 대한민국, 르완다, 사우디아라비아, 싱가포르, 스페인, 스위스, 튀르키예, 우크라이나, 아랍에미리트, 영국, 미국을 포함한 더 넓은 국가 그룹의 장관들과 EU 대표에 의해 채택되었다.
이 각료 성명은 AI 기술의 안전성, 혁신성, 포용성을 개선할 것을 촉구했다. 여기에는 저전력 칩 개발에 대한 주목할 만한 서약이 포함되었으며, 이는 AI 산업의 급속한 확장이 막대한 에너지 소비로 이어질 것이라는 인식을 반영한다. 이러한 에너지 효율성에 대한 초점은 대규모 AI 모델의 훈련과 실행의 환경적 영향에 대한 증가하는 우려를 반영했다.
각료 성명에 더 넓은 참여는 AI 거버넌스 노력의 글로벌 범위를 보여주었으며, 전통적인 서방 동맹국을 넘어 아프리카, 중동, 아시아의 국가들을 포함했다. 이러한 포용성은 AI 혜택이 전 세계적으로 공평하게 공유되도록 보장하는 데 필수적인 것으로 간주되었다.
글로벌 AI 정상회의 시리즈
AI 서울 정상회의는 AI 거버넌스에 전념하는 지속적인 국제 회의 시리즈의 일부였다. 이 시리즈는 2023년 11월 영국 블레츨리 파크에서 열린 AI 안전 정상회의로 시작되었으며, 2024년 5월 서울 정상회의로 이어졌다. 이후 회의는 AI 거버넌스를 위한 국제 체계를 더욱 발전시키기 위해 계획되었다.
이 시리즈는 전통적인 규제 과정보다 훨씬 빠르게 진화하는 기술을 다루는 새로운 형태의 국제 외교를 대표한다. 정상회의는 정부들이 복잡한 기술적 및 윤리적 문제에 대한 지식을 공유하고, 접근 방식을 조정하며, 합의를 구축할 수 있는 포럼을 제공한다.
이 시리즈는 또한 AI가 조정된 대응을 요구하는 글로벌 문제라는 인식의 증가를 반영한다. AI 개발과 배포의 국제적 특성을 고려할 때, 어떤 단일 국가도 AI를 고립되어 효과적으로 규제할 수 없다.
같이 보기
- 인공지능
- 대한민국의 대외 관계
- AI 액션 정상회의
- AI 임팩트 정상회의
참고 자료
이 문서의 내용은 AI 서울 정상회의 2024의 서울 선언 및 관련 문서와 참여 정부 및 기관의 공식 성명에 기반한다.