EU AI Act 금지 조항 시행일(2025년 2월 2일)은 유럽연합의 인공지능법(AI Act)에 따른 금지 조항이 발효된 날짜이다. 2024년 8월 1일에 발효된 AI Act는 EU 내 AI 시스템에 대한 위험 기반 규제 체계를 확립한다. 금지 조항은 '허용할 수 없는 위험'으로 분류된 AI 애플리케이션을 대상으로 하며, 제한적 예외를 두고 EU 시장과 EU 공급자 또는 배포자의 사용을 금지한다. 이 날짜는 규정에 따른 여러 단계적 준수 기한 중 첫 번째로, 발효 후 6~36개월에 걸쳐 의무를 단계적으로 도입한다.
AI Act는 2021년 4월 21일 유럽위원회가 제안했고, 2024년 3월 13일 유럽의회를 통과했으며, 2024년 5월 21일 EU 이사회에서 만장일치로 승인되었다. 최종文本은 대규모 언어 모델 및 생성형 AI와 같은 생성형 AI 시스템의 부상을 반영하여 수정되었는데, 이러한 시스템의 범용 능력은 원래의 위험 범주에 맞지 않았다. 이 규정은 역외 적용되므로, EU 내 사용자에게 AI 서비스를 제공하는 경우 EU 외부의 공급자도 준수해야 하며, 이는 일반 데이터 보호 규정(GDPR)과 유사하다.
금지된 관행
AI Act는 안전, 생계 및 기본권에 허용할 수 없는 위험을 초래하는 것으로 간주되는 AI 시스템을 금지한다. 여기에는 다음이 포함된다:
- 조작 및 착취 시스템: 잠재의식적, 조작적 또는 기만적 기술을 사용하여 행동을 왜곡하고 정보에 입각한 의사 결정을 손상시켜 중대한 피해를 초래하는 AI.
- 취약성 착취: 연령, 장애 또는 사회경제적 상황으로 인한 개인 또는 집단의 취약성을 이용하여 행동을 실질적으로 왜곡하는 AI.
- 사회적 점수 부여: 사회적 행동, 개인 특성 또는 예측된 행동을 기반으로 개인을 평가하거나 분류하여 원래 데이터와 무관한 맥락에서 불리한 대우를 초래하거나 행동의 심각성에 비해 과도한 대우를 초래하는 AI.
- 실시간 원격 생체 인식 식별: 공개적으로 접근 가능한 공간에서 법 집행 목적으로 실시간 생체 인식 식별(예: 얼굴 인식)을 사용하는 AI 시스템. 단, 실종자 수색 또는 특정 테러 위협 방지와 같은 좁게 정의된 상황은 예외.
- 프로파일링 기반 예측 치안: 프로파일링 또는 성격 특성만을 기반으로 범죄 또는 행정 위반을 예측하는 AI. 단, 객관적이고 검증 가능한 사실로 인간 평가를 지원하는 경우는 제외.
- 비표적 얼굴 이미지 수집: 인터넷 또는 CCTV 영상에서 얼굴 이미지를 수집하여 얼굴 인식 데이터베이스를 생성하거나 확장하는 AI.
- 특정 맥락에서의 감정 인식: 의료 또는 안전상의 이유를 제외하고 직장 및 교육 기관에서 감정을 추론하는 데 사용되는 AI.
- 민감 속성에 대한 생체 인식 분류: 생체 데이터를 기반으로 개인을 분류하여 인종, 정치적 의견, 종교적 신념 또는 성적 지향을 추론하는 AI.
이러한 금지 조항은 절대적이며 예외를 허용하지 않지만, 실시간 생체 인식 식별의 경우 법 집행을 위한 특정 예외가 있으며, 사전 사법 승인과 엄격한 시간 및 지리적 제한을 조건으로 한다.
예외
AI Act 제2.3조 및 제2.6조는 군사, 국방 또는 국가 안보 목적으로만 사용되는 AI 시스템과 순수 과학 연구 및 개발에 사용되는 시스템을 면제한다. 이 규정은 군사 목적으로 시장에 출시된 AI 시스템이나 공급자의 위치와 관계없이 국가 안보 맥락에서 사용되는 시스템에는 적용되지 않는다. AI 시스템을 시장에 출시하지 않는 연구 활동도 면제되지만, 연구 프로토타입이 실제 환경에 배포되는 경우 규정의 적용을 받을 수 있다.
또한 이 법은 취미 프로젝트나 개인 비서와 같은 개인적, 비전문적 활동에 사용되는 AI 시스템에는 적용되지 않지만, 공개적으로 제공되는 경우는 예외이다. 오픈소스 AI 모델은 축소된 투명성 요구 사항을 적용받지만, 허용할 수 없는 위험에 대한 금지 조항은 오픈소스 여부와 관계없이 적용된다.
일정 및 이행
금지 조항은 AI Act가 발효된 지 정확히 6개월 후인 2025년 2월 2일에 발효되었다. 이 빠른 기한은 가장 유해한 AI 사용을 금지하는 긴급성을 반영한다. 다른 조항은 단계적 일정을 따른다:
- 2025년 8월: 투명성 및 저작권 요구 사항을 포함한 범용 AI 모델에 대한 의무가 적용된다.
- 2026년 8월: 고위험 AI 시스템에 대한 조항을 포함한 대부분의 조항이 적용된다.
- 2027년 8월: 규제 제품(예: 의료 기기, 차량)에 내장된 고위험 AI 시스템에 대한 의무가 적용된다.
회원국은 규정을 집행하기 위해 국가 관할 당국을 지정해야 하며, 이 법에 따라 설립된 유럽 인공지능 위원회는 국가 감독을 조정하고 EU 전역에서 일관된 적용을 보장한다.
집행 및 제재
금지 조항을 준수하지 않을 경우 최대 3,500만 유로 또는 회사 글로벌 연간 매출액의 7% 중 더 높은 금액의 벌금이 부과될 수 있다. 이는 AI Act에서 가장 높은 제재 수준으로, 금지된 관행 사용의 심각성을 반영한다. 소규모 공급자와 스타트업은 감면된 벌금을 받을 수 있지만, 금지 조항은 절대적이며 무지를 이유로 한 관용은 허용되지 않는다.
유럽위원회는 조사를 수행하고 AI 시스템을 시장에서 철수하는 것을 포함한 시정 조치를 발행할 수 있다. 국가 당국도 관할 구역 내에서 조치를 취할 수 있다. 이 법은 개인이 관련 당국에 AI 시스템에 대한 불만을 제기할 수 있는 불만 메커니즘을 제공한다.
산업 및 혁신에 미치는 영향
금지 조항은 특히 AI 연구, 머신 러닝 및 딥 러닝 분야의 AI 개발자와 배포자에게 중요한 영향을 미친다. 기업은 AI 시스템이 금지된 범주에 속하지 않도록 철저한 감사를 수행해야 한다. 예를 들어, 대규모 언어 모델을 개발하는 OpenAI와 Anthropic은 제품이 사회적 점수 부여나 조작적 관행에 사용되지 않도록 보장해야 한다. 마찬가지로 Google DeepMind 및 기타 연구소는 작업을 규정에 맞춰야 한다.
공공 장소에서의 실시간 생체 인식 식별 금지는 컴퓨터 비전에 의존하는 Waymo 및 Tesla Autopilot과 같은 기업에 영향을 미치지만, 이러한 시스템은 주로 공공 감시가 아닌 차량에 사용된다. 비표적 얼굴 이미지 수집 금지는 데이터 수집 관행에 영향을 미쳐 기업이 개인정보 보호 기술을 채택하도록 유도한다.
엄격함에도 불구하고 이 법은 법 집행을 위한 예외를 포함하여 테러 공격이나 실종자 사건과 같은 특정 비상 상황에서 사법 감독 하에 실시간 생체 인식 식별을 허용한다. 이러한 균형은 기본권을 보호하면서 보안 조치를 가능하게 하는 것을 목표로 한다.
글로벌 영향 및 향후 전망
EU AI Act는 다른 관할권의 AI 규제에 영향을 미치는 글로벌 기준이 되었다. 금지 조항 시행일은 인권을 침해하는 AI 관행을 금지하는 선례를 설정하며, 다른 국가들도 유사한 조치를 채택할 수 있다. 2025년 현재 EU는 이러한 포괄적인 AI 금지 조항을 시행한 최초의 주요 경제권이며, 그 집행은 주목받을 것이다.
향후 개발에는 2025년 7월 10일에 발표된 범용 AI 행동 강령이 포함되며, 이는 범용 AI 모델 공급자가 준수를 입증하기 위한 지침을 제공한다. 이 강령은 투명성, 저작권 및 안전을 다루며, 참여는 자발적이지만 사실상의 표준이 될 것으로 예상된다.
요약하면, EU AI Act 금지 조항 시행일은 AI 거버넌스의 중추적 순간을 표시하며, EU에서 AI 사용에 대한 명확한 경계를 설정한다. 이는 혁신과 기본권 보호의 균형을 맞추는 인간 중심 AI에 대한 약속을 반영한다. 규정이 시행됨에 따라 전 세계 AI 기술의 개발 및 배포를 형성할 것이다.