2023년 AI 안전 정상 회의는 인공지능의 안전과 규제에 관한 국제 회의였다. 영국 정부가 주최한 이 회의는 2023년 11월 영국 밀턴킨스의 블레츨리 파크에서 열렸다. 이 행사는 인공지능에 관한 최초의 글로벌 정상 회의로, 정부 대표, 기술 경영진, 연구자들이 모여 고급 AI 시스템의 위험과 거버넌스에 대해 논의했다.
이 정상 회의는 미국, 중국, 호주, 유럽 연합을 포함한 28개국이 서명한 블레츨리 선언을 도출했다. 이 선언은 "공유된 우려를 불러일으키는 AI 안전 위험 식별"과 "각국의 위험 기반 정책 수립"에 초점을 맞추어 "기술의 혜택이 모두를 위해 책임 있게 활용될 수 있도록 보장"하는 것을 목표로 했다. 또한 AI가 안전하고 인간 중심적이며 신뢰할 수 있고 책임 있는 방식으로 설계, 개발, 배포, 사용되어야 한다고 확인했다.
배경
당시 영국 총리인 리시 수낙은 AI를 정부의 우선 과제 중 하나로 삼았다. 2023년 초, 그는 영국이 그 해 가을에 글로벌 AI 안전 회의를 개최할 것이라고 발표했다. 이 발표는 대규모 언어 모델 기술의 급속한 발전, GPT-4의 OpenAI 출시, 생성형 AI 도구의 확산 속에서 이루어졌으며, 이는 잠재적 위험에 대한 대중과 정부의 우려를 높였다.
영국 정부는 AI 안전 논의에서 리더로 자리매김하며 국제 포럼을 만들려는 목표를 세웠다. 이 정상 회의는 정부, 학계, 산업계를 포함한 다양한 이해 관계자를 모아 테러리즘이나 범죄 활동에 대한 오용과 같은 단기 위험과 인류에 대한 장기적 실존 위험을 모두 다루도록 설계되었다.
장소
영국 밀턴킨스 시에 위치한 블레츨리 파크가 이 정상 회의의 장소로 사용되었다. 이곳은 빅토리아 시대 저택 부지에 영국 정부가 설립한 제2차 세계 대전 당시 암호 해독 시설이었다. 이곳은 컴퓨팅 역사에서 중요한 역할을 했으며, 콜로서스를 포함한 최초의 현대 컴퓨터 중 일부가 독일 메시지를 해독하기 위해 이곳에서 제작되었다.
블레츨리 파크를 선택한 것은 상징적이었으며, 정상 회의를 영국의 컴퓨팅 및 암호학에 대한 역사적 기여와 연결했다. 또한 이 장소는 전시 암호 해독자들의 협력을 반영하며 기술적 도전을 해결하는 데 있어 집단적 노력의 주제를 강조했다.
성과
주요 성과는 블레츨리 선언으로, 인공지능의 도전과 위험을 관리하기 위한 국제 협력을 촉구했다. 이 선언은 안전하고 인간 중심적이며 신뢰할 수 있고 책임 있는 AI 개발의 필요성을 강조했다. 또한 "프론티어 AI"의 규제 중요성을 언급했는데, 이는 고급 신경망 모델과 같은 최신 및 가장 강력한 AI 시스템을 가리키는 용어다.
정상 회의에서 제기된 우려에는 AI의 테러리즘, 범죄 활동, 전쟁 사용 가능성과 인류 전체에 제기되는 실존 위험이 포함되었다. 대표단은 AI 개발에서 강력한 안전 조치, 투명성, 책임성의 필요성에 대해 논의했다.
동시에 미국 대통령 조 바이든은 AI 개발자들이 안전 결과를 미국 정부와 공유하도록 요구하는 행정 명령에 서명했다. 이 명령은 또한 미국 국립표준기술연구소의 일부로 미국 AI 안전 연구소를 설립하여 AI 안전을 위한 연구와 표준을 지원하도록 했다.
주요 참석자
이 정상 회의는 정부와 산업계의 고위급 참석자들을 끌어들였다. 주요 참석자는 다음과 같다:
- 리시 수낙, 영국 총리
- 카말라 해리스, 미국 부통령
- 찰스 3세, 영국 국왕 (가상 참여)
- 일론 머스크, 테슬라 CEO, X, 스페이스X, 뉴럴링크, xAI 소유자
- 조르자 멜로니, 이탈리아 총리
- 우르줄라 폰 데어 라이엔, 유럽 위원회 위원장
- 샘 알트만, OpenAI CEO
- 닉 클레그, 전 영국 정치인, 메타 플랫폼 글로벌 사무 담당 사장
- 무스타파 술레이만, Google DeepMind 공동 창업자
- 미셸 도넬란, 영국 과학·혁신·기술 장관
- 베라 요우로바, 유럽 위원회 가치·투명성 담당 부위원장
- 지나 레이몬도, 미국 상무 장관
- 우자오후이, 중국 과학기술부 차관
11월 2일, 일론 머스크와 리시 수낙은 X에서 방송된 AI 안전에 관한 라이브 인터뷰를 진행했으며, 여기서 AI의 잠재적 혜택과 위험, 실존 위협, 규제 필요성에 대해 논의했다.
글로벌 AI 정상 회의 시리즈
2023년 AI 안전 정상 회의는 계획된 AI 안전에 관한 일련의 글로벌 정상 회의 중 첫 번째였다. 이 행사는 지속적인 국제 대화를 위한 프레임워크를 수립했으며, 후속 정상 회의가 블레츨리 선언을 기반으로 확장될 것으로 예상된다. 이 시리즈는 국가 간 지속적인 협력을 촉진하여 AI의 진화하는 도전에 대응하고 기술의 혜택을 실현하면서 위험을 완화하는 것을 목표로 한다.
참고 문헌
- AI 안전 정상 회의 2023 - 위키백과 (CC BY-SA)