유럽 평의회 AI 협약, 공식 명칭은 인공지능과 인권, 민주주의 및 법치에 관한 기본 협약(Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law)으로, 2024년 9월 5일 리투아니아 빌뉴스에서 서명을 위해 개방된 국제 조약이다. 이는 인공지능을 구체적으로 다루는 최초의 법적 구속력 있는 문서로, AI 시스템이 인권, 민주적 절차, 그리고 법치와 부합하는 방식으로 개발되고 사용되도록 보장하는 것을 목표로 한다. 이 협약은 공공 기관의 활동과 이를 대신하여 행동하는 민간 행위자의 활동에 적용되며, AI 시스템의 수명 주기 전반에 걸친 위험 평가 및 완화에 관한 규정을 포함한다.
이 조약은 2019년 인공지능 특별 위원회(CAHAI)의 설립으로 시작된 유럽 평의회 내 다년간의 과정에서 비롯되었다. CAHAI의 타당성 조사 이후, 인공지능 위원회(CAI)가 2022년에 협약 초안 작성을 맡았다. 협상은 2024년 3월에 종료되었고, 본문은 2024년 5월 17일 각료 위원회에서 채택되었다. 이 협약은 비유럽 국가에도 개방되어 있어 그 글로벌한 야망을 반영한다. 2025년 초 기준으로 영국, 미국, 일본을 포함한 여러 국가가 서명했지만 아직 비준하지는 않았다.
배경 및 맥락
인공지능 기술, 특히 기계 학습 및 심층 학습 모델의 급속한 발전은 공통 규범을 확립하기 위한 국제적 노력을 촉발했다. 인권에 대한 오랜 초점을 가진 유럽 평의회는 이러한 규제를 위한 핵심 포럼으로 자리매김했다. 이 협약은 유럽 인권 협약과 개인 데이터 자동 처리에 관한 개인 보호 협약과 같은 기존 문서를 기반으로 한다. 유럽 연합의 AI 법안이 지역 규제인 반면, 유럽 평의회 협약은 유럽을 넘어선 국가에도 개방된 글로벌 프레임워크로 설계되었다.
초안 작성 과정에는 시민 사회, 학계, 산업계와의 광범위한 협의가 포함되었다. 협상의 주요 인물로는 CAI 의장과 회원국 및 옵서버 국가 대표들이 있었다. 협약의 범위는 AI 시스템의 설계 및 개발부터 배포 및 폐기에 이르는 전체 수명 주기를 다루며, 인권을 침해할 수 있는 활동에 초점을 맞춘다.
주요 조항
이 협약은 투명성, 책임성, 비차별을 포함한 AI 시스템의 일반 원칙을 확립한다. 당사국은 AI 시스템이 인간 존엄성과 개인 자율성에 부합하는 방식으로 사용되도록 조치를 채택해야 한다. 특정 조항은 개인 데이터 보호, 사생활 권리, 그리고 AI 결정으로 부정적 영향을 받는 사람들을 위한 효과적인 구제 수단에 대한 권리를 다룬다. 이 조약은 또한 AI에 관한 공공 인식과 교육의 중요성을 강조한다.
협약의 핵심 요소 중 하나는 위험 평가 및 완화 요건이다. 당사국은 AI 시스템이 제기하는 위험, 특히 차별이나 기타 인권 침해로 이어질 수 있는 위험을 식별, 평가, 해결해야 한다. 협약은 고위험 및 저위험 애플리케이션을 구분하며, 전자에 대해 더 엄격한 의무를 부과한다. 또한 AI 시스템이 인간의 감독을 받도록 요구하여, 필요할 때 인간이 의사 결정 과정에 개입할 수 있도록 보장한다.
서명국 및 비준 절차
2025년 초 기준으로 이 협약은 영국, 미국, 일본 및 여러 유럽 국가를 포함한 20개 이상의 국가가 서명했다. 서명식은 빌뉴스에서 열렸으며, 이들 국가의 대표가 참석했다. 비준은 각 서명국에서 국내 승인을 요구하며, 협약은 최소 3개 유럽 평의회 회원국을 포함한 5번째 비준 후 3개월 뒤에 발효된다. 지식 차단 시점 기준으로 아직 어떤 국가도 비준하지 않았지만, 여러 관할권에서 절차가 진행 중이다.
협약의 개방적 성격은 비회원국의 가입을 허용하며, 이는 글로벌 표준을 촉진하는 방법으로 여겨진다. 예를 들어, 유럽 평의회 회원국이 아닌 미국은 조약에 서명하여 AI 거버넌스에 관한 국제 규범에 부합하려는 의지를 보여주었다. 그러나 비준은 보장되지 않으며, 조약의 효과는 서명국이 그 조항을 이행하려는 약속에 달려 있다.
EU AI 법안과의 비교
유럽 평의회 AI 협약과 EU AI 법안은 상호 보완적이지만 구별되는 문서이다. EU AI 법안은 EU 시장에 출시되는 모든 AI 시스템에 적용되는 포괄적 규제로, 위험 기반 분류와 제공자 및 사용자에 대한 구속력 있는 요구 사항을 포함한다. 대조적으로, 유럽 평의회 협약은 일반 원칙과 의무를 설정하고 이행 세부 사항을 국가 법률에 맡기는 프레임워크 조약이다. 협약은 덜 규범적이며, 당사국이 목표를 달성하는 방식에 유연성을 허용한다.
두 문서 모두 인권과 안전을 강조하지만, 협약은 더 넓은 지리적 범위를 가지며 유럽을 넘어 AI 거버넌스에 영향을 미칠 가능성이 있다. 2024년 5월 유럽 이사회에서 승인된 EU AI 법안은 많은 국가의 모델이 될 것으로 예상되지만, 유럽 평의회 조약은 비EU 국가를 위한 대안 또는 보완 경로를 제공한다. 둘 사이의 관계는 위계적이지 않으며, 오히려 병렬로 운영되어 EU AI 법안은 EU 회원국에 적용되고 협약은 글로벌 기준선을 제공한다.
이행 및 집행
협약은 각 당사국이 준수 여부를 감독할 감독 기관을 설립하거나 지정하도록 요구한다. 이러한 기관은 조사, 제재 부과, 위반에 대한 구제 제공 권한을 가져야 한다. 조약은 또한 상호 지원 및 당국 간 정보 교환을 포함한 국제 협력을 장려한다. 그러나 집행 메커니즘은 특정 위반에 대해 글로벌 매출의 최대 7%에 달하는 벌금을 포함하는 EU AI 법안에 비해 상대적으로 약하다.
이행은 많은 국가에서 상당한 법적 및 제도적 변화를 요구할 것이다. 예를 들어, 당사국은 국내 법률이 협약의 원칙과 일치하도록 보장해야 하며, 이는 기존 데이터 보호 및 차별 금지 법률을 수정하는 것을 포함할 수 있다. 협약은 또한 OECD 및 유네스코와 같은 다른 국제 기구와 협력하여 표준 및 지침 개발을 촉구한다.
반응 및 비판
협약은 엇갈린 반응을 받았다. 많은 인권 단체를 포함한 지지자들은 이를 AI에 대한 구속력 있는 국제 규범을 향한 역사적 단계로 칭찬한다. 그들은 이 협약이 OpenAI, Anthropic, Google DeepMind와 같은 기업이 개발하는 점점 더 강력한 대규모 언어 모델의 빠른 배포에 필요한 균형을 제공한다고 주장한다. 그러나 비판자들은 협약이 너무 모호하고 집행력이 부족하다고 주장한다. 일부 시민 사회 단체는 사회 점수 시스템과 같은 특정 AI 애플리케이션 금지에 대한 더 강력한 조항과 더 명확한 책임 규칙을 요구해 왔다.
산업계 대표들은 각국이 협약을 다르게 해석할 수 있으므로 규제 분열 가능성에 대한 우려를 표명했다. 또한 특히 중소기업에 대한 준수 부담에 대해 걱정한다. 그럼에도 불구하고 많은 기술 기업은 AI에 대한 공공 신뢰를 구축하는 방법으로 협약의 목표를 공개적으로 지지했다.
향후 전망
2025년 초 기준으로 협약은 비준 단계에 있다. 발효는 비준 속도에 따라 향후 몇 년 내에 예상된다. 조약의 영향은 국제 AI 거버넌스의 선례를 설정하므로 상당할 가능성이 있다. 또한 아프리카와 라틴 아메리카의 다른 지역 프레임워크 개발에 영향을 미칠 수 있다. 협약의 성공은 당사국이 그 원칙을 얼마나 효과적으로 이행하는지, 그리고 생성형 AI 및 자율 시스템의 발전을 포함한 진화하는 AI 환경에 적응할 수 있는지에 달려 있다.
유럽 평의회는 이행 검토와 모범 사례 공유를 위해 당사국 정기 회의를 개최할 계획이다. 군사 분야 또는 의료 분야의 AI와 같은 특정 문제를 다루기 위한 추가 의정서 가능성도 있다. 협약은 기술 발전에 따라 진화하도록 설계된 살아있는 문서이다.
결론
유럽 평의회 AI 협약은 인공지능의 글로벌 거버넌스에서 이정표를 세운다. AI 맥락에서 인권을 보호하기 위해 국가에 구속력 있는 의무를 설정함으로써 국제 협력의 새로운 표준을 제시한다. 그 효과는 아직 지켜봐야 하지만, 협약은 AI가 인간을 훼손하기보다는 인간을 위해 봉사하도록 보장하기 위한 집단적 노력을 나타낸다. 국가들이 비준을 향해 나아감에 따라, 조약의 원칙은 전 세계적으로 국가 법률과 기업 관행을 형성하여 더 책임 있고 인간 중심적인 AI 생태계에 기여할 가능성이 높다.