파리 AI 정상회의 선언은 2025년 2월 11일 파리 AI 행동 정상회의가 끝나면서 채택된 비구속적 국제 협정이다. 이 선언은 안전하고, 보안이 보장되며, 포용적이고 지속 가능한 인공지능 개발을 촉진하기 위한 일련의 원칙에 서명국들이 동참하도록 한다. 이는 프랑스 대통령 에마뉘엘 마크롱이 소집한 정상회의에서 나온 것으로, AI 기술의 급속한 발전과 그 세계적 영향력을 다루기 위해 각국 정상, 기술 기업 경영진, 연구자들이 한자리에 모였다.
이 선언은 디지털 격차를 해소하고 혁신을 촉진하며 AI 시스템이 인권과 민주적 가치를 존중하도록 보장하기 위한 국제적 협력의 필요성을 강조한다. 또한 AI 안전 연구에 대한 조정 강화, 상호 운용 가능한 거버넌스 체계 개발, 시장 분열 방지를 촉구한다. 이 선언은 법적 구속력은 없지만, 특히 유럽연합의 AI 법과 같은 규제 중심의 이니셔티브와 대조를 이루며 AI 정책에 대한 글로벌 접근 방식을 조율하려는 중요한 외교적 노력을 대표한다.
배경 및 정상회의 맥락
파리 AI 행동 정상회의는 2025년 2월 10일부터 11일까지 프랑스 파리의 그랑 팔레에서 개최되었다. 이는 2023년 11월 블레츨리 파크 정상회의와 2024년 5월 서울 정상회의에 이은 세 번째 주요 국제 AI 정상회의였다. 이 행사에는 약 100개국과 주요 기술 기업, 학계 기관, 시민 사회 단체 대표들이 참석했다.
프랑스 대통령 에마뉘엘 마크롱은 이 정상회의를 혁신과 규제의 균형을 맞추는 플랫폼으로 자리매김하며, 유럽이 단순한 규칙 제정자가 아닌 AI 개발의 선도자가 되겠다는 야망을 강조했다. 정상회의 의제에는 AI 안전, 노동 시장 영향, 공공 이익 응용, AI 인프라의 환경 발자국에 대한 논의가 포함되었다.
주요 기업 참가자로는 OpenAI, Anthropic, Google DeepMind, Amazon Web Services의 경영진과 유럽 기업 및 스타트업이 포함되었다. 또한 MIT CSAIL, Stanford AI Lab, BAIR (Berkeley AI Research)와 같은 연구 기관이 AI 안전 및 평가 방법론에 대한 연구 결과를 발표하며 기여했다.
선언의 핵심 원칙
이 선언은 서명국들이 준수하기로 동의한 몇 가지 핵심 원칙을 중심으로 구성된다. 첫째, AI 접근성을 촉진하고 불평등을 줄이겠다는 약속을 확인하며, 많은 개발도상국이 AI 발전의 혜택을 누릴 인프라와 전문성을 갖추지 못했음을 인식한다. 둘째, 인권 의무와 지적 재산권 보호를 포함한 국제법에 따라 AI 시스템이 개발되어야 한다고 촉구한다.
셋째, 이 선언은 AI 안전의 중요성을 강조하며 위험 평가, 레드팀 테스트, 오용 방지에 대한 지속적인 연구를 촉구한다. 특히 허위 정보, 알고리즘 편향, 자율 시스템이 해를 끼칠 가능성에 대한 우려를 언급한다. 넷째, AI 평가 및 벤치마킹을 위한 공통 표준 채택을 장려하여 국가 간 비교와 협력을 용이하게 한다.
다섯째, 이 선언은 지속 가능성을 촉진하며 대규모 모델 훈련과 관련된 상당한 에너지 및 물 소비를 인정한다. 에너지 효율적인 하드웨어와 데이터 센터에 대한 투자, 재생 에너지원 사용을 장려한다. 마지막으로, 다중 이해관계자 포럼 창설과 모범 사례 공유를 포함한 AI 거버넌스에 대한 국제 협력 강화를 촉구한다.
서명국 및 상이한 입장
이 선언은 프랑스, 독일, 인도, 일본, 한국, 호주, 캐나다를 포함한 61개국이 서명했다. 그러나 미국과 영국은 눈에 띄게 불참했으며, 두 나라 모두 문서 지지를 거부했다. 정상회의에 참석한 JD 밴스 미국 부통령은 과도한 규제가 혁신을 저해할 수 있으며, 디지털 격차와 지속 가능성에 대한 선언의 언어가 지나치게 규범적이라고 주장했다.
영국의 결정은 선언이 AI의 국가 안보 영향력을 충분히 다루지 못했다는 우려에 영향을 받았다. 이러한 차이는 유럽 국가들이 예방적 접근을 선호하고 미국과 영국이 경쟁 우위를 우선시하는 AI 정책에서의 대서양 양안 간 균열이 커지고 있음을 부각시켰다.
중국은 장궈칭 부총리가 대표로 서명하여 AI 거버넌스에 대한 베이징과 서방 민주주의 국가들 간의 드문 합의 순간을 만들었다. 그러나 중국 관리들은 자국의 AI 규제를 강조하며 데이터 흐름과 국경 간 이전에 관한 특정 조항에 대해 유보를 표명했다.
반응 및 비판
이 선언은 시민 사회와 학계 관찰자들로부터 엇갈린 반응을 얻었다. 지지자들은 포용성과 지속 가능성에 대한 강조를 칭찬하며, 이전 정상회의가 주로 실존적 위험에 초점을 맞추었다고 지적했다. 노동 시장 우려의 포함은 AI 채택의 사회적 차원을 다루는 진전으로 평가되었다.
그러나 비판자들은 이 선언이 의미 있는 영향을 미치기에는 너무 모호하다고 주장했다. 구속력 있는 약속이나 집행 메커니즘의 부재로 일부 전문가들은 이를 상징적 제스처로 일축했다. 산타페 연구소의 Melanie Mitchell은 선언의 원칙이 "야심 차지만 이빨이 없다"며 구체적인 목표나 일정이 부족하다고 논평했다.
업계 대표들은 조심스러운 지지를 표명했으며, OpenAI의 Brad Lightcap은 혁신 친화적 거버넌스에 대한 선언의 초점이 기업 이익과 일치한다고 언급했다. 그러나 일부 소규모 스타트업은 안전 연구 강조가 더 큰 규정 준수 자원을 가진 대기업에 유리한 규제 부담으로 이어질 수 있다고 우려했다.
다른 AI 거버넌스 이니셔티브와의 비교
파리 선언은 다른 기구가 제안한 AI 거버넌스 체계와 크게 다르다. 2024년 8월 발효된 유럽연합의 AI 법은 위험 범주에 따라 구속력 있는 의무를 설정하고 특정 고위험 응용을 금지한다. 대조적으로 파리 선언은 자발적 협력에 의존하며 법적 의무를 창출하지 않는다.
이 선언은 또한 전방위 AI 위험과 생물학적 및 사이버 위협에 좁게 초점을 맞춘 블레츨리 선언과도 차별화된다. 파리 문서는 개발 및 형평성 문제를 포함하도록 범위를 넓혀 글로벌 사우스의 우선순위를 반영한다. 이러한 확장은 이전 정상회의가 자신들의 관점을 배제했다고 비판한 아프리카와 라틴 아메리카 국가들의 참여에 부분적으로 기인했다.
OECD와 유네스코와 같은 국제 기구는 자체 AI 원칙을 개발했으며, 파리 선언은 이러한 기존 체계를 명시적으로 언급하며 중복이 아닌 보완적 위치를 차지한다. 또한 이 선언은 국제 AI 관측소 설립을 촉구하지만, 그 임무와 자금에 대한 세부 사항은 명시되지 않았다.
이행 및 후속 조치
정상회의 후 서명국들은 구체적인 실행 계획을 개발하기 위해 작업 그룹을 소집하기로 합의했다. 이 그룹들은 AI 문해력 프로그램, 공공 부문 채택, 공동 평가 벤치마크 개발과 같은 특정 영역을 다루는 임무를 맡는다. 진전 검토는 2025년 말 인도가 개최할 예정인 다음 주요 AI 정상회의에서 예정되어 있다.
프랑스는 향후 5년간 AI 연구 및 인프라를 지원하기 위해 25억 유로를 할당하기로 약속했으며, 일부는 국제 협력 프로젝트에 전념한다. 정상회의에서 발표된 민간 부문 약속에는 Amazon Web Services와 Google Cloud의 유럽 데이터 센터 투자와 OpenAI의 파리 기반 연구 사무소 개설 약속이 포함되었다.
선언의 지속 가능성 조항은 AI 시스템에 대한 환경 영향 평가 표준화에 대한 논의를 촉발했다. Stanford AI Lab의 연구자들은 모델 훈련의 탄소 발자국을 측정하기 위한 지표를 제안했으며, 이는 향후 규제 요구 사항에 정보를 제공할 수 있다.
장기적 중요성
파리 AI 정상회의 선언은 AI 거버넌스 진화의 과도기적 문서로 기억될 가능성이 높다. 비구속적 성격은 상이한 이해관계와 가치를 가진 국가들 간의 합의를 달성하는 어려움을 반영한다. 그러나 광범위한 참여와 포괄적 범위는 향후 논의의 선례를 설정한다.
포용성과 지속 가능성에 대한 선언의 강조는 개발도상국이 AI 기술에 대한 더 큰 접근을 추구함에 따라 후속 정상회의의 의제에 영향을 미칠 수 있다. 그러나 미국과 영국의 부재는 선도적 AI 강국의 참여 없이 어떤 글로벌 체계의 효과성에 대한 의문을 제기한다.
2025년 초 현재 이 선언은 직접적인 법적 효과가 없지만 공동 의도의 정치적 신호로 작용한다. 그 원칙은 시간이 지남에 따라 국가 전략이나 양자 협정에 통합될 수 있다. 향후 몇 년은 이 선언이 더 견고한 거버넌스 메커니즘으로 진화할지, 아니면 공동 열망의 상징적 진술로 남을지를 결정할 것이다.