서울 AI 정상회의 선언은 2024년 5월 대한민국 정부와 영국 정부가 공동 주최한 AI 서울 정상회의에서 채택된 국제 협정이다. 이 선언은 인공지능 기술과 관련된 도전 과제와 기회를 다루며, 고급 AI 시스템의 개발과 배치를 규율하려는 초기 국제적 노력을 바탕으로 한다. 또한 참가국들이 국가 간 상호 운용 가능한 AI 거버넌스 체계에 관한 국제 협력을 촉진하도록 약속한다.
이 선언은 2023년 11월 영국에서 개최된 AI 안전 정상회의에 이은 두 번째 주요 글로벌 AI 안전 회의에서 비롯되었다. 초기 블레츨리 파크 회의에서 참가국들은 공동 우려 사항인 AI 안전 위험 식별을 우선시하기로 합의했다. 서울 선언은 안전 고려 사항과 함께 AI 혁신의 중요성을 인정함으로써 이러한 약속을 확장했다.
배경
AI 서울 정상회의는 영국에서 열린 AI 안전 정상회의에 이은 두 번째 회의로 2024년 5월에 개최되었다. 2023년 11월 회의의 블레츨리 선언은 참가국들 사이에서 공동 우려 사항인 AI 안전 위험 식별의 필요성에 대한 합의를 확립했다. 서울 정상회의는 AI 기술이 제시하는 기회에 초점을 추가함으로써 이 기반 위에 구축되었다.
이 정상회의는 인공지능 시스템, 특히 대규모 언어 모델과 생성형 AI 기술의 급속한 발전을 배경으로 조직되었다. OpenAI, Google DeepMind, Anthropic과 같은 기업들이 이러한 시스템을 빠르게 배치하면서 전 세계 정부들이 규제 대응을 고려하게 되었다.
주요 참석자
이 정상회의에는 미국, 캐나다, 프랑스, 독일을 포함한 주요 7개국(G7) 정상들과 한국, 싱가포르, 호주가 참석했다. 유엔, 경제협력개발기구(OECD), 유럽연합 대표들도 참여했다.
기업 대표로는 테슬라 CEO 일론 머스크, 삼성전자 회장 이재용, 그리고 OpenAI, 구글, 마이크로소프트, 메타, 한국 최대 포털 운영사인 네이버의 임원들이 포함되었다. 업계 지도자들의 참석은 AI 거버넌스에서 정부와 민간 부문 간 협력을 강조하는 정상회의의 의지를 반영했다.
한국 AI 안전 센터
정상회의 기간 동안 한국 관리들은 한국에 AI 안전 연구 센터를 설립할 계획을 발표했다. 과학기술정보통신부 장관 이종호는 한국이 2024년에 AI 안전 연구소를 개소할 계획이라고 밝혔다. 장관은 또한 AI 안전을 위한 국제 표준 개발 협력을 강화하려는 국가의 의지를 표명했다.
제안된 센터는 AI의 글로벌 안전을 강화하기 위한 유사 기관 네트워크에 합류하도록 설계되었다. 이 계획은 블레츨리 정상회의 이후 다른 국가들에 설립된 유사 기관을 보완하며 한국을 국제 AI 거버넌스 노력의 중요한 행위자로 자리매김하게 했다.
안전하고 혁신적이며 포용적인 AI를 위한 서울 선언
서울 선언은 유럽연합, 미국, 영국, 호주, 캐나다, 독일, 프랑스, 이탈리아, 일본, 한국, 싱가포르를 대표하는 정상들이 정상회의에서 채택했다. 이 선언은 서명국들이 국가 간 상호 운용 가능한 AI 거버넌스 체계 개발을 돕기 위한 국제 협력을 촉진하도록 약속한다.
선언의 핵심 요소는 고급 AI 시스템을 개발하는 조직을 위한 국제 행동 강령인 히로시마 프로세스의 통합이다. 일본의 G7 의장국 하에 개발된 이 강령은 고급 AI 시스템을 개발하는 조직에 지침을 제공한다. 선언은 민간 부문, 학계, 시민 사회와 협력하여 인간 중심 AI 개발을 옹호한다.
선언은 안전 기준을 유지하면서 서로 다른 국가 규제 체계에서 작동할 수 있는 거버넌스 접근 방식의 필요성을 강조한다. AI 기술이 국경을 넘어 작동하며 효과적인 거버넌스가 국제적 조정을 요구한다는 점을 인정한다.
AI 안전 증진을 위한 서울 각료 성명
정상회의의 각료 회의에서 참가자들은 AI 기술의 안전, 혁신, 포용성 개선을 촉구하는 공동 성명인 서울 각료 성명을 채택했다. 이 성명은 호주, 캐나다, 칠레, 프랑스, 독일, 인도, 인도네시아, 이스라엘, 이탈리아, 일본, 케냐, 멕시코, 네덜란드, 나이지리아, 뉴질랜드, 필리핀, 한국, 르완다, 사우디아라비아, 싱가포르, 스페인, 스위스, 터키, 우크라이나, 아랍에미리트, 영국, 미국의 장관들과 유럽연합 대표가 채택했다.
각료 성명에는 AI 응용을 위한 저전력 칩 개발에 대한 구체적인 초점이 포함되었다. 이는 AI 산업이 빠르게 확장됨에 따라 예상되는 막대한 에너지 소비에 대한 우려를 반영했다. 에너지 효율적인 하드웨어에 대한 강조는 대규모 AI 배치가 제기하는 환경 및 인프라 도전 과제를 인식한 것이다.
각료 성명의 참여가 정상 선언보다 더 광범위하다는 점은 AI 거버넌스에 대한 국제적 합의가 확장되고 있음을 보여주었다. 아프리카, 중동, 라틴 아메리카, 동남아시아 국가들이 각료 성명에 참여하여 AI 안전 문제에 대한 글로벌 참여가 증가하고 있음을 나타냈다.
글로벌 AI 정상회의 시리즈
서울 정상회의는 AI 거버넌스에 관한 지속적인 국제 회의 시리즈의 일부를 형성했다. 이 시리즈는 2023년 11월 영국의 AI 안전 정상회의로 시작하여 2024년 5월 AI 서울 정상회의로 이어졌다. 시리즈의 후속 회의는 AI 거버넌스와 안전의 다양한 측면을 다룰 계획이었다.
이 시리즈는 일회성 회의가 아닌 AI 문제에 대한 지속적인 국제 대화를 창출하려는 시도를 나타낸다. 블레츨리에서 서울로의 진행은 순수한 안전 우려에서 혁신과 포용성을 포괄하는 더 넓은 의제로 초점이 진화했음을 보여주었다.
의의와 영향
서울 AI 정상회의 선언은 안전 약속과 AI의 잠재적 이점 인식을 결합함으로써 국제 AI 거버넌스에서 중요한 단계를 표시했다. 상호 운용 가능한 거버넌스 체계에 대한 선언의 강조는 AI 개발과 배치의 글로벌 특성을 인정한 것이다.
정상회의의 결과는 AI 거버넌스가 정부 규제와 산업 협력을 모두 요구한다는 성장하는 합의를 반영했다. 주요 AI 기업들이 정부 지도자들과 함께 참여한 것은 효과적인 거버넌스가 기술을 개발하고 배치하는 사람들의 의견을 필요로 한다는 인식을 나타냈다.
선언의 히로시마 프로세스 행동 강령 통합은 고급 AI 시스템을 개발하는 조직을 위한 구체적인 체계를 제공했다. 이는 블레츨리 정상회의에서 더 일반적인 용어로 표현되었던 AI 안전 원칙을 실행 가능하게 만드는 데 진전을 나타냈다.
한국 AI 안전 센터 설립은 AI 안전 연구에 전념하는 국가 기관의 성장하는 네트워크에 추가되었다. 이 기관들은 AI 개발을 위한 국제 표준과 모범 사례 개발에 기여할 것으로 기대되었다.
같이 보기
- 인공지능
- 대한민국의 대외 관계
- AI 행동 정상회의
- AI 영향 정상회의