EU AI Act Proposal 2021은 유럽연합 내 인공지능의 개발과 사용을 규율하기 위해 유럽위원회가 제안한 획기적인 규제 이니셔티브입니다. 2021년 4월 21일에 제안되었으며, AI 시스템을 위험도에 따라 분류하고 공급자와 배포자에게 그에 상응하는 의무를 부과하는 공통 법적 프레임워크를 구축하는 것을 목표로 합니다. 이 규정은 2024년 8월 1일에 발효되었으며, 이후 6개월에서 36개월에 걸쳐 단계적으로 적용되며, 블록 내 사용자를 둔 EU 외부 공급자에게도 역외 적용됩니다.
이 제안은 생성형 AI 시스템과 같은 ChatGPT의 등장에 대응하기 위해 상당한 수정을 거쳤으며, 이러한 시스템의 범용 능력은 기존 위험 범주에 맞지 않았습니다. 2024년 3월 13일 유럽의회를 통과했으며, 2024년 5월 21일 EU 이사회에서 만장일치로 승인되었습니다.
위험 기반 분류
이 법은 제품 안전 모델을 채택하여 잠재적 피해가 증가할수록 규제 의무도 증가하도록 합니다. 4가지 주요 위험 수준과 범용 AI를 위한 별도 범주를 정의합니다:
- 허용 불가 위험: 금지된 애플리케이션에는 인간 행동을 조작하거나, 공공 장소에서 실시간 원격 생체 인식을 사용하거나, 사회적 점수를 가능하게 하는 시스템이 포함됩니다. 특정 사례에는 제한적 예외가 적용됩니다.
- 고위험: 의료, 교육, 채용, 중요 인프라, 법 집행 또는 사법 분야의 시스템은 품질, 투명성, 인간 감독 및 안전 의무를 충족해야 합니다. 일부는 배포 전에 기본 권리 영향 평가를 요구하며, 시민은 권리에 영향을 미치는 결정에 대해 불만을 제기하거나 설명을 요청할 수 있습니다.
- 제한적 위험: 사용자가 AI와 상호 작용하고 있거나 딥페이크와 같은 콘텐츠가 AI 생성임을 알리는 등 투명성 의무가 적용됩니다.
- 최소 위험: 비디오 게임이나 스팸 필터와 같은 비규제 시스템이 여기에 해당합니다. 최대 조화로 인해 회원국은 추가 규칙을 부과할 수 없지만, 자발적 행동 강령이 제안됩니다.
고위험 애플리케이션 목록은 법 자체를 수정하지 않고도 확장될 수 있습니다. 유럽의회 연구처는 위원회의 영향 평가가 이 프레임워크를 설계할 때 이해관계자 협의와 기존 연구를 활용했다고 언급했습니다.
범용 AI 조항
2023년에 추가된 이 범주는 대규모 언어 모델과 같은 광범위한 작업을 수행하는 기반 모델을 다룹니다. 오픈소스 모델은 훈련 데이터 요약과 저작권 정책을 공개해야 하며, 폐쇄형 모델은 더 광범위한 투명성 요구 사항에 직면합니다. 훈련에 10^25 부동 소수점 연산 이상이 필요한 고영향 모델은 체계적 위험을 초래하는 것으로 지정되며 모델 평가, 적대적 테스트, 편향 및 보안 실패에 대한 위험 완화, 사고 보고 및 적절한 사이버 보안 조치를 받아야 합니다.
2025년 7월 10일에 발표된 범용 AI 행동 강령은 투명성, 저작권, 안전 및 보안에 관한 세 개의 장으로 구성되어 공급자가 규정 준수를 입증하는 데 도움을 줍니다. 참여는 자발적입니다.
예외 및 범위
제2.3조와 제2.6조는 군사, 국방 또는 국가 안보 목적으로만 사용되는 AI 시스템과 순수 과학 연구 개발을 면제합니다. 이 법은 개인 권리를 창출하지 않고 전문 공급자와 배포자에게 의무를 부과합니다. 대부분의 부문을 다루지만 비전문적인 개인 사용도 제외됩니다.
제도적 프레임워크
이 법은 국가 간 협력을 촉진하고 규정 준수를 보장하기 위해 유럽 인공지능 위원회를 설립합니다. 일반 데이터 보호 규정과 마찬가지로 블록 내 사용자를 둔 EU 외부 공급자에게도 적용될 수 있어 규제 영향 범위를 전 세계로 확장합니다.
단계적 구현은 2024년 8월부터 6개월에서 36개월에 걸쳐 의무가 점진적으로 시행됨을 의미하며, 이해관계자가 적응할 시간을 제공합니다. 이 프레임워크는 혁신과 건강, 안전 및 기본 권리 보호 사이의 균형을 맞추도록 설계되었으며, AI 거버넌스에 대한 예방적 접근 방식을 반영합니다.