2021년 EU AI 법안 제안은 유럽연합 내 인공지능(AI) 규제를 위한 유럽위원회의 최초 입법 제안이다. 2021년 4월 21일에 도입된 이 제안은 AI 애플리케이션을 허용 불가, 고위험, 제한적, 최소의 네 가지 수준으로 분류하는 위험 기반 프레임워크를 확립했으며, 제공자와 배포자에게 각각에 해당하는 의무를 부과했다. 이 제안은 이후 ChatGPT와 같은 생성형 AI 시스템의 부상을 해결하기 위해 수정되었으며, 2024년 최종 AI 법으로 채택되었다.
이 제안은 혁신과 기본권 보호의 균형을 맞추며 신뢰할 수 있는 AI 분야에서 블록을 선도자로 자리매김하려는 더 넓은 EU 전략에서 비롯되었다. 이는 유럽의회와 위원회의 AI 고위 전문가 그룹이 빠른 기술 변화에 적응할 수 있는 규제 프레임워크를 요구한 이전 작업을 기반으로 했다. 원문은 국가 규칙을 조화시키고, 시장 분열을 방지하며, EU 시장에 출시된 AI 시스템이 안전하고 기존 법률을 준수하도록 보장하는 것을 목표로 했다.
배경 및 입법 역사
유럽위원회는 2018년부터 AI 정책을 개발해 왔으며, 그해 회원국들과 AI에 관한 조정 계획을 발표했다. 2020년 2월, 위원회는 AI에 관한 백서를 발표하여 정책 옵션을 제시하고 공개 협의를 시작했다. 피드백과 영향 평가를 결합한 결과는 2021년 4월 21일 내부 시장 담당 위원 티에리 브르통과 부위원장 마르그레테 베스타게르가 제시한 규정 초안에 반영되었다.
이 제안은 디지털 서비스 법과 디지털 시장 법을 포함하는 더 넓은 디지털 패키지의 일부였다. 온라인 플랫폼에 초점을 맞춘 이들 규정과 달리, AI 법은 기계, 장난감, 의료 기기에 관한 기존 EU 법률과 유사한 제품 안전 모델을 사용하여 기술 자체를 대상으로 했다. 이 접근 방식은 시스템이 제기하는 위험 수준에 따라 AI 제공자(개발자)와 배포자(사용자)에게 의무를 부여했다.
입법 과정은 3년 이상 걸렸다. 유럽의회와 EU 이사회는 수정안을 협상했으며, 생성형 AI 도구의 빠른 채택에 대응하여 상당한 변경이 이루어졌다. 최종 텍스트는 2024년 3월 13일 의회에서 통과되었고 2024년 5월 21일 이사회에서 승인되어 2024년 8월 1일 발효되었다. 그러나 2021년 제안은 이러한 협상의 기초로서 역사적으로 중요한 의미를 지닌다.
위험 기반 분류
제안의 핵심은 4단계 위험 피라미드였으며, 이는 최종 법에서 대부분 유지되었다. 이 범주는 AI 시스템이 건강, 안전 또는 기본권에 미칠 수 있는 잠재적 피해를 반영하도록 설계되었다.
허용 불가 위험
허용 불가 위험을 제기하는 것으로 간주되는 애플리케이션은 완전히 금지될 예정이었다. 여기에는 자유 의지를 우회하기 위해 인간 행동을 조작하는 AI 시스템, 특정 그룹(예: 어린이 또는 장애인)의 취약성을 악용하는 시스템, 개인 특성이나 행동에 따라 개인을 순위 매기는 사회 점수 시스템이 포함되었다. 이 제안은 또한 특정 범죄에 대한 좁은 예외와 사법 승인을 조건으로 공공 접근 가능한 공간에서 법 집행 목적의 실시간 원격 생체 인식 식별을 금지했다.
고위험
고위험 AI 시스템은 가장 광범위한 의무를 받았다. 제안은 8가지 특정 영역을 나열했다: 자연인의 생체 인식 식별 및 분류; 중요 인프라의 관리 및 운영; 교육 및 직업 훈련; 고용 및 근로자 관리; 필수 민간 및 공공 서비스 접근; 법 집행; 이민, 망명 및 국경 통제; 사법 및 민주적 절차의 행정. 고위험 시스템 제공자는 위험 관리 시스템을 구현하고, 고품질 훈련 데이터를 사용하며, 기술 문서를 유지하고, 자동 로깅을 활성화하며, 투명성을 보장하고, 인간 감독을 제공해야 했다. 또한 시장 출시 전과 시스템 수명 주기 전반에 걸쳐 적합성 평가를 받아야 했다.
제한적 위험
챗봇 및 딥페이크 생성기와 같은 제한적 위험 AI 시스템은 투명성 의무를 받았다. 사용자는 AI 시스템과 상호 작용할 때 정보를 받아야 했으며, AI에 의해 생성되거나 조작된 콘텐츠는 그렇게 표시되어야 했다. 이는 개인이 정보에 입각한 선택을 할 수 있도록 하고 속임수를 방지하기 위한 것이었다.
최소 위험
비디오 게임 및 스팸 필터를 포함한 대부분의 AI 애플리케이션은 최소 위험으로 간주되어 규제되지 않았다. 제안은 이러한 시스템에 대한 자발적 행동 강령을 장려했지만 구속력 있는 요구 사항은 부과하지 않았다. 회원국은 또한 최소 위험 시스템에 대한 추가 국가 규칙을 추가하는 것을 금지하여 AI를 위한 단일 시장을 보장했다.
범용 AI 및 생성 모델
원래 2021년 제안은 다양한 도메인에서 광범위한 작업을 수행할 수 있는 범용 AI(GPAI) 시스템을 명시적으로 다루지 않았다. 이 공백은 2022년 말과 2023년에 ChatGPT 및 기타 기반 모델과 같은 생성형 AI 모델의 폭발적 성장으로 분명해졌다. 초안은 GPAI 전용 범주를 포함하도록 수정되었으며, 계층적 의무가 부과되었다.
수정된 프레임워크에 따라 모든 GPAI 모델은 기술 문서를 제공하고, 훈련 데이터 요약을 게시하며, 저작권법을 준수해야 했다. 가중치와 설계가 공개된 오픈 소스 모델은 훈련 데이터 요약과 저작권 정책만 게시하면 되는 등 축소된 요구 사항을 받았다. 폐쇄 소스 모델은 더 넓은 투명성 의무를 충족해야 했다. 훈련에 10^25 부동 소수점 연산 이상이 필요한 고영향 모델은 체계적 위험을 제기하는 것으로 간주되어 추가 평가, 적대적 테스트 및 사이버 보안 조치를 받아야 했다.
이 수정은 다양한 애플리케이션에 미세 조정될 수 있는 기계 학습 시스템이 제기하는 도전에 대한 직접적인 대응이었으며, 원래 위험 범주 아래에서 분류하기 어렵게 만들었다. 이 접근 방식은 특히 Google DeepMind 및 Anthropic과 같은 회사가 개발한 가장 강력한 모델에 대한 감독과 혁신의 균형을 목표로 했다.
집행 및 거버넌스
제안은 EU 전역에서 일관된 적용을 보장하기 위한 거버넌스 구조를 확립했다. 회원국 대표와 위원회로 구성된 유럽 AI 위원회를 만들어 협력을 촉진하고 지침을 제공했다. 국가 감독 기관은 영토 내에서 규정을 집행할 책임이 있으며, 시장 감시를 수행하고 벌금을 부과할 권한을 가졌다.
불이행에 대한 벌금은 금지된 관행 위반의 경우 회사 글로벌 연간 매출의 최대 6%, 기타 위반의 경우 4%, 잘못된 정보 제공의 경우 2%로 설정되었다. 이러한 벌금은 일반 데이터 보호 규정 아래의 벌금과 유사하여 강력한 집행에 대한 EU의 약속을 반영했다.
제안은 또한 역외 적용 조항을 포함하여, EU 외부의 제공자가 EU 내 사용자에게 AI 시스템을 제공하는 경우 규정의 적용을 받도록 했다. 이는 GDPR의 접근 방식을 반영하고 글로벌 AI 개발자를 위한 공정한 경쟁 환경을 조성하는 것을 목표로 했다.
면제 및 범위
특정 AI 시스템은 제안의 범위에서 제외되었다. 여기에는 군사, 국방 또는 국가 안보 목적으로만 사용되는 시스템과 과학 연구 개발 전용으로 개발되고 서비스에 투입된 시스템이 포함되었다. 규정은 또한 개인적, 비전문적 활동에 사용되는 AI에는 적용되지 않았다. 이러한 면제는 보안 문제에서 회원국의 주권을 존중하고 연구 환경에서 혁신을 방해하지 않도록 하기 위한 것이었다.
그러나 제안은 종종 국가 기능이지만 법 집행 또는 이민 통제에 사용되는 AI 시스템을 면제하지 않았다. 대신 이를 고위험 범주에 포함시켜 인간 감독 및 기본권 영향 평가와 같은 추가 보호 장치를 적용했다.
영향 및 유산
2021년 제안은 주요 관할권에서 제안된 최초의 포괄적인 AI 법적 프레임워크로서 AI 규제의 이정표였다. 이는 유럽 평의회의 AI 협약 및 다양한 국가 이니셔티브를 포함한 전 세계 후속 규제 노력에 영향을 미쳤다. 위험 기반 접근 방식은 널리 논의되었으며, 일부 학자는 유연성을 칭찬하고 다른 학자는 잠재적 공백 또는 과잉 규제를 비판했다.
입법 과정에서 제안은 산업 및 시민 사회의 우려를 해결하기 위해 수정되었다. 예를 들어, 고위험 애플리케이션 목록이 정제되었고 AI 정의는 OECD의 정의와 일치하도록 조정되었다. 2024년에 채택된 최종 법은 2021년 제안의 핵심 구조를 유지했지만 GPAI 범주를 추가하고 특정 임계값을 조정했다.
제안은 또한 AI 규제의 본질에 대한 학문적 및 정책 논의를 촉발했다. 일부는 제품 안전 모델이 AI에 적합하다고 주장했으며, 다른 일부는 더 인간 권리 중심 접근 방식을 요구했다. 기본권 영향 평가의 포함은 알고리즘 영향 평가에 대한 이전 작업을 기반으로 한 진보적인 단계로 간주되었다.
2025년 현재, AI 법의 조항은 단계적으로 시행되고 있으며, 금지된 관행 및 GPAI 의무에 대한 첫 번째 마감일이 이미 발효되었다. 2021년 제안은 EU 및 전 세계 AI 거버넌스의 진화를 이해하는 데 핵심 참조 지점으로 남아 있다.