EU AI Act 위험 등급은 2024년 8월 1일 발효된 유럽연합의 인공지능법(AI Act)에 의해 수립된 위험 기반 분류 체계이다. 이 법은 EU 전역에서 인공지능에 대한 공통 규제 및 법적 체계를 만들며, 다양한 분야의 대부분의 AI 시스템을 포괄한다. 면제 대상이 아닌 AI 애플리케이션을 허용 불가, 고위험, 제한적, 최소 위험의 네 가지 수준으로 분류하며, 범용 AI에 대한 별도 범주를 추가한다. 위험 등급은 AI 제공자와 사용자에게 부과되는 의무를 결정하며, 건강, 안전 또는 기본권에 대한 잠재적 영향이 커질수록 의무가 더 엄격해지는 제품 안전 모델을 따른다.
AI Act는 2021년 4월 21일 유럽위원회가 제안했고, 2024년 3월 13일 유럽의회를 통과했으며, 2024년 5월 21일 EU 이사회에서 만장일치로 승인되었다. 초안은 생성형 AI 시스템의 부상을 반영하여 수정되었는데, 대규모 언어 모델과 같은 시스템의 범용 능력은 주요 체계에 맞지 않았기 때문이다. 이 규정은 개인 권리를 창설하지 않지만 AI 제공자와 전문 사용자에게 의무를 부과하며, EU 내 사용자가 있는 경우 EU 외부 제공자에게도 역외 적용될 수 있다.
허용 불가 위험
허용 불가 위험 애플리케이션은 특정 면제를 제외하고 전면 금지된다. 면제가 적용되지 않는 경우, 이 범주에는 인간 행동을 조작하는 AI 시스템, 공공 장소에서 실시간 원격 생체 인식(예: 얼굴 인식)을 사용하는 시스템, 그리고 개인적 특성, 사회경제적 지위 또는 행동에 기반하여 개인을 순위화하는 사회적 점수 산정에 사용되는 시스템이 포함된다. 금지는 절대적이므로, 적합성 평가나 완화 조치를 통해서도 이러한 시스템이 EU 시장에 출시될 수 없다.
고위험
고위험 AI 애플리케이션은 사람의 건강, 안전 또는 기본권에 중대한 위협을 초래할 것으로 예상되는 것이다. 특히 의료, 교육, 채용, 핵심 인프라 관리, 법 집행 또는 사법에 사용되는 AI 시스템이 이 범주에 해당한다. 이러한 시스템은 배포 전에 보안, 투명성 및 품질 의무를 준수하고 적합성 평가를 거쳐야 한다. 일부 경우에는 기본권 영향 평가(FRIA)가 요구되는데, 이는 기본권에 대한 잠재적 영향을 식별하고 완화하기 위한 사전 검토이다. 고위험 시스템은 시장 출시 전과 전체 수명 주기 동안 평가되어야 한다. 고위험 애플리케이션 목록은 AI Act 자체를 수정하지 않고도 시간이 지남에 따라 확장될 수 있다. 시민은 AI 시스템에 대해 불만을 제기하고 권리에 영향을 미치는 고위험 AI 결정에 대한 설명을 받을 권리가 있다.
제한적 위험
제한적 위험 AI 시스템은 투명성 의무를 가지며, 사용자가 AI 시스템과 상호작용하고 있음을 인지하고 정보에 입각한 선택을 할 수 있도록 보장한다. 이 범주에는 딥러닝 기반 딥페이크와 같이 이미지, 소리 또는 비디오를 생성하거나 조작하는 애플리케이션이 포함된다. 투명성 의무는 고위험 시스템보다 가볍지만, 여전히 사용자에게 명확한 공개가 요구된다.
최소 위험
최소 위험 AI 시스템은 AI Act의 규제를 받지 않는다. 이 범주에는 예를 들어 비디오 게임이나 스팸 필터에 사용되는 AI가 포함된다. 대부분의 AI 애플리케이션이 이 범주에 속할 것으로 예상된다. 최대 조화 규칙으로 인해 EU 회원국은 이러한 시스템에 추가 규정을 부과할 수 없으며, 설계 또는 사용에 관한 기존 국내법도 무효화된다. 그러나 제공자에게는 자발적 행동 강령이 제안된다.
범용 AI
2023년에 추가된 범용 AI 범주에는 OpenAI의 ChatGPT 또는 Anthropic 및 Google DeepMind의 모델과 같이 광범위한 작업을 수행할 수 있는 기반 모델이 포함된다. 모델의 가중치와 설계가 오픈소스로 공개된 경우 개발자는 훈련 데이터 요약과 저작권 정책을 게시해야 하며, 폐쇄형 소스 모델은 더 광범위한 투명성 요구 사항을 충족해야 한다. 훈련에 10^25회 이상의 부동 소수점 연산이 필요한 체계적 위험을 초래하는 고영향 모델은 모델 평가, 적대적 테스트, 편향 및 보안 실패에 대한 위험 완화, 중대 사고 보고, 적절한 사이버 보안을 포함한 추가 평가를 거쳐야 한다. 2025년 7월 10일에 발표된 범용 AI 행동 강령은 투명성, 저작권, 안전 및 보안에 관한 세 가지 주요 장을 제시하여 제공자가 규정 준수를 입증하도록 돕는다. 강령 참여는 자발적이다.
면제
AI Act 제2.3조 및 제2.6조는 군사, 국방 또는 국가 안보 목적으로만 사용되는 AI 시스템과 순수 과학 연구 및 개발을 위한 시스템을 면제한다. 이 규정은 비전문적 목적으로 사용되는 AI에도 적용되지 않는다. 이러한 면제는 좁게 해석되며 민간 용도가 있는 이중 용도 시스템에는 적용되지 않는다.
시행 및 집행
AI Act의 조항은 발효 후 6개월에서 36개월에 걸쳐 점진적으로 시행된다. 이 법은 국가 간 협력을 촉진하고 규정 준수를 보장하기 위해 유럽 인공지능 위원회를 설립한다. EU의 일반 데이터 보호 규정과 마찬가지로 AI Act는 EU 내 사용자가 있는 경우 EU 외부 제공자에게도 역외 적용될 수 있다. 위험 기반 체계는 중대한 위험을 초래할 가능성이 있는 시스템에 감독을 집중하고 덜 민감한 용도에는 더 가벼운 접근 방식을 허용하도록 설계되었다. 유럽 의회 연구 서비스의 초기 평가에 따르면, 위원회의 영향 평가는 이 체계에 대한 정책 옵션을 비교할 때 이해관계자 협의와 광범위한 기존 연구를 활용했다.