EU AI Act 표결은 2024년 3월 14일 유럽 의회 본회의에서 열린 표결로, 유럽 연합 내 인공지능에 대한 포괄적인 법적 체계를 수립하는 획기적인 규제인 인공지능 법(AI Act)을 공식적으로 승인한 사건을 의미합니다. 프랑스 스트라스부르에서 열린 이 표결에서 유럽 의회 의원(MEP) 523명이 찬성, 46명이 반대, 49명이 기권하여 2023년 12월 유럽 연합 이사회와의 3자 협상에서 합의된 텍스트를 승인했습니다. 이 승인은 2021년 4월 유럽 위원회가 AI Act를 처음 제안하면서 시작된 입법 과정의 정점을 이루었으며, EU를 AI 시스템을 구체적으로 규율하는 구속력 있는 규칙을 제정한 최초의 주요 관할권으로 자리매김하게 했습니다.
AI Act는 위험 기반 접근 방식을 채택하여 AI 애플리케이션을 네 가지 계층으로 분류합니다: 허용되지 않는 위험(금지), 고위험(엄격한 의무 적용), 제한적 위험(투명성 요건), 최소 위험(자발적 행동 강령). 금지되는 관행에는 정부의 사회 점수화, 공개 접근 가능한 공간에서의 실시간 원격 생체 인식 식별을 통한 법 집행(좁은 예외 적용), 그리고 조작적 또는 착취적 AI 시스템이 포함됩니다. 교육, 고용, 의료, 법 집행 등에 사용되는 고위험 AI 시스템은 위험 관리, 데이터 거버넌스, 기술 문서화, 투명성, 인간의 감독, 견고성에 대한 요구 사항을 준수해야 합니다. 대규모 언어 모델을 포함한 범용 AI 모델은 추가 의무를 부담하며, 체계적 위험 모델은 더 엄격한 평가와 사고 보고 의무를 따릅니다.
이 표결은 Artificial intelligence의 글로벌 거버넌스에 있어 중추적인 사건이었으며, 다른 관할권에 선례를 설정했습니다. 이 규정은 2024년 8월 1일에 발효되었으며, 단계적 시행 일정을 따릅니다: 허용되지 않는 위험 관행에 대한 금지는 2025년 2월부터, 범용 AI 의무는 2025년 8월부터, 고위험 시스템에 대한 완전 적용은 2026년 8월까지 적용됩니다. AI Act는 또한 유럽 위원회 내에 유럽 AI 사무소를 설립하여 구현과 집행을 감독하도록 했습니다.
입법 배경
AI Act의 기원은 유럽 위원회가 신뢰할 수 있는 AI를 촉진하면서 위험을 해결하기 위한 정책 옵션을 제시한 2020년 AI 백서로 거슬러 올라갑니다. 유럽 위원회의 2021년 4월 공식 제안은 규제 체계를 요구하는 유럽 의회 결의안에 따른 것이었습니다. 이 제안은 광범위한 협상을 거쳤으며, 이사회는 2022년 12월 일반 접근 방식을 채택하고 의회는 2023년 6월 협상 입장에 도달했습니다. 3자 협상은 2023년 12월에 마무리되어 혁신과 기본권 보호 사이의 균형을 맞춘 절충 텍스트를 생산했습니다.
이 과정에서 주요 논쟁은 AI의 정의, 금지 관행의 범위, 범용 AI의 처리에 집중되었습니다. 최종 텍스트는 기계 학습 및 논리 기반 시스템을 포함하도록 정의를 확대했으며, Large language model과 같은 시스템을 포함하는 용어인 기반 모델에 대해 계층적 의무를 도입했습니다. 2024년 3월 14일의 의회 표결은 이사회의 공식 채택(2024년 5월 21일)과 관보 게재(2024년 7월 12일) 이전의 마지막 입법 단계였습니다.
위험 기반 체계
AI Act의 핵심 혁신은 잠재적 피해에 따라 규제 강도를 조정하는 위험 피라미드입니다. 허용되지 않는 위험 AI는 금지되며, 여기에는 잠재의식 기법을 사용하여 행동을 왜곡하는 시스템, 특정 집단의 취약성을 착취하는 시스템, 사회적 행동에 따라 사람을 평가하거나 분류하는 시스템(사회 점수화), 그리고 좁은 범위의 심각한 범죄 시나리오와 사법적 승인이 있는 경우를 제외하고 공공 공간에서 법 집행을 위한 실시간 원격 생체 인식 식별을 사용하는 시스템이 포함됩니다.
고위험 AI 시스템은 적합성 평가를 거쳐 데이터 품질, 추적 가능성, 투명성, 인간의 감독, 정확성에 대한 기준을 충족해야 합니다. 제공업체는 위험 관리 시스템을 구현하고 기술 문서를 유지하며 EU 데이터베이스에 등록해야 합니다. 의료 기기나 차량과 같은 제품에 내장된 고위험 시스템의 경우 AI Act는 기존 부문별 법률과 정렬하여 공인 기관이 관여할 수 있는 적합성 평가 절차를 요구합니다.
챗봇과 딥페이크와 같은 제한적 위험 AI는 사용자가 AI 시스템과 상호 작용하거나 콘텐츠가 AI 생성임을 공개해야 하며, 투명성을 보장합니다. 스팸 필터나 비디오 게임과 같은 대부분의 소비자 애플리케이션을 포함한 최소 위험 AI는 기존 법률 외에 추가 의무가 없지만, 이 법은 자발적 행동 강령을 권장합니다.
범용 AI 및 기반 모델
협상 중 중요한 추가 사항은 Generative AI 애플리케이션의 기반이 되는 광범위한 작업을 수행할 수 있는 범용 AI(GPAI) 모델의 규제였습니다. AI Act는 GPAI 모델과 체계적 위험 GPAI 모델을 구분하며, 후자는 높은 컴퓨팅 성능(10^25 FLOPs 이상) 또는 내부 시장에 대한 영향으로 정의됩니다. GPAI 모델 제공업체는 기술 문서를 유지하고, 하류 개발자에게 정보를 제공하며, 저작권법을 준수해야 합니다. 체계적 위험 모델은 모델 평가 수행, 적대적 테스트, 체계적 위험 평가 및 완화, 심각한 사고 보고를 포함한 추가 의무를 부담합니다.
이 체계는 OpenAI, Anthropic, Google DeepMind와 같은 대규모 모델을 생산하는 첨단 AI 시스템 개발업체에 직접적인 영향을 미칩니다. 2024년 2월에 설립된 유럽 AI 사무소는 GPAI 집행을 감독하며, 준수를 위한 행동 강령 개발을 포함합니다.
집행 및 거버넌스
AI Act는 다층 거버넌스 구조를 만듭니다. 유럽 위원회는 유럽 AI 사무소를 통해 GPAI 및 체계적 위험 모델을 모니터링하는 중심 역할을 합니다. 국가 감독 기관으로 구성된 유럽 AI 위원회는 회원국 전역에서 일관된 적용을 보장합니다. 국가 기관은 다른 AI 시스템에 대한 시장 감시와 집행을 담당합니다.
불이행에 대한 벌칙은 상당합니다: 금지된 관행의 경우 글로벌 연간 매출의 7% 또는 최대 3500만 유로, 대부분의 기타 의무 위반의 경우 3% 또는 1500만 유로, 잘못된 정보 제공의 경우 1.5% 또는 750만 유로입니다. 이러한 벌금은 위반을 억제하도록 설계되었으며 GDPR의 집행 접근 방식을 반영합니다.
이 법은 또한 규제 샌드박스 메커니즘을 구축하여 공공 기관이 배포 전에 혁신적인 AI 시스템을 테스트할 수 있는 통제된 환경을 제공하며, 혁신을 촉진하면서 준수를 보장하는 것을 목표로 합니다.
글로벌 영향 및 반응
EU AI Act 표결은 AI 거버넌스에 있어 분수령이 된 사건으로 널리 평가되었습니다. 이는 2023년 10월 미국의 안전하고 안전하며 신뢰할 수 있는 AI 개발 및 사용에 관한 행정 명령과 2024년 5월 유럽 평의회의 AI 기본 협약을 포함한 전 세계 입법 노력에 영향을 미쳤습니다. 산업계의 반응은 엇갈렸습니다: 일부 기업은 규제 명확성을 환영한 반면, 다른 기업은 준수 비용과 혁신 억제 가능성에 대한 우려를 표명했습니다. 시민 사회 단체는 일반적으로 기본권을 다루는 이 법을 칭찬했지만, 법 집행에 대한 면제와 같은 일부 조항이 너무 관대하다고 주장하는 경우도 있었습니다.
학계와 연구자들은 이 법의 위험 기반 접근 방식이 다른 지역의 모델이 될 수 있다고 언급하면서도, 특히 AI 기술의 역동적 특성과 기술 표준의 필요성에 따른 구현의 어려움을 강조했습니다. 이 법의 역외 적용은 시스템이 EU 사용자에게 영향을 미치는 경우 EU 외부의 제공업체와 배포업체에도 적용되므로 그 영향력을 전 세계로 확장합니다.
시행 일정
AI Act의 단계적 시행은 이해 관계자가 적응할 수 있도록 설계되었습니다. 주요 날짜는 다음과 같습니다:
- 2024년 8월 1일: 발효.
- 2025년 2월 2일: 허용되지 않는 위험 관행에 대한 금지 적용.
- 2025년 8월 2일: GPAI 모델에 대한 의무 및 거버넌스 조항 적용.
- 2026년 8월 2일: 부속서 III에 나열된 고위험 시스템(예: 고용, 교육, 법 집행)에 대한 완전 적용.
- 2027년 8월 2일: 규제 제품에 내장된 고위험 시스템에 대한 완전 적용.
이 단계적 일정은 규제 확실성과 실질적 준비 사이의 균형을 목표로 하며, 유럽 위원회는 준수를 지원하기 위한 지침과 표준을 발행하는 임무를 맡고 있습니다.
AI 개발에 대한 의의
EU AI Act 표결은 Machine learning 및 관련 기술의 궤적을 형성하려는 집단적 정치적 결정을 나타냅니다. 명확한 경계를 설정함으로써 이 법은 신뢰할 수 있는 AI를 육성하여 준수 시스템에 대한 투자를 장려하면서 기본권을 보호하는 것을 목표로 합니다. 또한 국제적으로 운영되는 기업이 단일 시장에 접근하기 위해 EU 규칙에 맞출 수 있으므로 글로벌 표준에 영향을 미칠 수 있는 규제 기준을 만듭니다.
연구자와 개발자에게 이 법은 훈련 데이터 문서화 및 투명성 보장과 같은 새로운 책임을 도입합니다. 또한 모델 기능이 빠르게 진화하는 Deep learning과 같은 분야에서 Neural network 연구의 미래에 대한 질문을 제기합니다. 체계적 위험에 대한 이 법의 조항은 경계 AI 연구소에 특히 관련이 있으며, 이제 더 넓은 사회적 영향을 고려해야 합니다.
요약하면, EU AI Act 표결은 단순한 절차적 사건이 아니라 인공지능 거버넌스의 기초적 순간이었으며, 기술, 법률, 사회에 광범위한 영향을 미쳤습니다.