EU AI Act 금지 조항은 2024년 8월 1일에 발효된 유럽연합의 인공지능법(AI Act)에 따른 일련의 금지 사항이다. 이러한 금지 조항은 기본권, 안전, 민주적 가치에 허용할 수 없는 위험을 초래하는 것으로 분류되는 AI 응용 프로그램을 대상으로 한다. 이 조항은 2025년 2월 2일부터 적용되기 시작했으며, 이는 규제의 첫 번째 주요 집행 이정표를 의미한다. 금지 조항은 고위험, 제한적 위험, 최소 위험 AI 시스템 및 범용 AI 모델을 규율하는 광범위한 위험 기반 체계의 일부이다.
AI Act는 2021년 4월 21일 유럽연합 집행위원회가 제안했으며, 2024년 3월 13일 유럽의회에서 채택되고 2024년 5월 21일 EU 이사회에서 승인되었다. 이 법은 EU 전역에 걸쳐 AI에 대한 공통 규제 체계를 수립하며, 일반 데이터 보호 규정과 유사한 역외 적용 범위를 가진다. 금지 조항은 EU 가치와 근본적으로 양립할 수 없다고 간주되는 AI 사용을 방지하도록 설계되었으며, 법 집행 및 보안 목적을 위한 특정 좁은 예외를 허용한다.
금지 관행의 범위
AI Act는 행동을 왜곡하고 정보에 입각한 의사 결정을 저해하여 중대한 피해를 초래하는 잠재의식적, 조작적 또는 기만적 기법을 사용하는 AI 시스템을 금지한다. 여기에는 연령, 장애 또는 사회경제적 상황으로 인한 개인 또는 집단의 취약성을 이용하는 것이 포함된다. 또한 개인의 행동, 개인적 특성 또는 사회적 상호 작용을 기반으로 개인을 평가하거나 분류하여 불리한 대우를 초래하는 AI 기반 사회 점수 시스템도 금지된다. 공개적으로 접근 가능한 공간에서 법 집행 목적의 실시간 원격 생체 인식 식별 사용은 특정 중대 범죄 시나리오 및 사법 승인을 조건으로 하는 경우를 제외하고 금지된다. 또한 직장이나 교육 기관에서 감정을 추론하는 AI 시스템과 인터넷 또는 CCTV 영상에서 비표적 수집을 통해 얼굴 인식 데이터베이스를 생성하는 AI 시스템도 금지된다.
법 집행 및 보안을 위한 예외
특정 금지 관행에는 좁은 예외가 있다. 실시간 원격 생체 인식 식별은 납치, 인신매매 또는 성적 착취 피해자의 표적 수색 또는 생명이나 안전에 대한 구체적이고 실질적인 위협을 방지하기 위해 법 집행 기관이 사용할 수 있다. 이러한 사용은 사전 사법 승인이 필요하며 엄격한 시간 및 지리적 제한을 받는다. 감정 인식 금지는 의료 환경에서 고통 감지와 같은 의료 또는 안전상의 이유로 시장에 출시된 AI 시스템에는 적용되지 않는다. 군사 및 국가 안보 AI 시스템은 AI Act에서 완전히 면제되며, 과학 연구 및 개발에 사용되는 시스템도 마찬가지이다.
이행 및 집행
회원국은 금지 조항의 적용을 감독하기 위해 국가 관할 당국을 지정해야 했다. 이 법에 의해 설립된 유럽 AI 위원회는 협력과 준수를 촉진한다. 금지 관행 위반에 대한 벌칙은 최대 3,500만 유로 또는 회사의 전 세계 연간 매출액의 7% 중 더 높은 금액에 이를 수 있다. 유럽연합 집행위원회는 특히 감정 인식 및 생체 인식 분류와 관련하여 금지 조항의 범위를 명확히 하는 지침을 발표했다.
AI 개발 및 배포에 미치는 영향
금지 조항은 AI 개발자와 배포자에게 중요한 영향을 미친다. EU에서 운영되는 기업은 AI 시스템이 허용할 수 없는 위험 범주에 속하지 않도록 철저한 평가를 수행해야 한다. 이로 인해 특히 Generative AI 시스템과 사용자 행동을 의도치 않게 조작할 수 있는 Artificial intelligence 응용 프로그램의 제품 설계 조정이 이루어졌다. 금지 조항은 또한 조작적이거나 차별적일 수 있는 소셜 미디어 알고리즘, 광고 및 인적 자원에 사용되는 Machine learning 모델에도 영향을 미친다. 일부 비EU 제공업체는 규정 준수 부담을 피하기 위해 EU에서 특정 AI 기능에 대한 접근을 제한하기로 선택했다.
다른 AI Act 조항과의 관계
금지 조항은 적합성 평가, 투명성 및 인간 감독을 요구하는 고위험 AI 시스템에 대한 의무와 구별된다. Large language model 챗봇과 같은 제한적 위험 시스템은 사용자에게 AI와 상호 작용하고 있음을 알리기만 하면 된다. 스팸 필터와 같은 최소 위험 시스템은 규제되지 않는다. ChatGPT와 같은 시스템을 다루기 위해 2023년에 추가된 범용 AI 범주는 투명성 및 저작권 의무를 부과하며, 10^25 부동 소수점 연산을 초과하는 모델에 대해서는 추가 평가를 요구한다. 금지 조항은 독립적으로 운영되므로 위험 범주에 관계없이 모든 AI 시스템은 금지 관행에 관여할 수 없다.
글로벌 영향 및 비교
EU AI Act 금지 조항은 전 세계 AI 규제에 영향을 미쳤다. 캐나다와 브라질을 포함한 다른 관할권은 자체 입법 제안에서 EU 체계를 참조했다. 그러나 금지 조항은 자발적 지침과 부문별 규칙에 의존하는 미국의 접근 방식보다 더 제한적이다. 이 법의 역외 적용 범위는 OpenAI 생태계 또는 Google DeepMind와 같은 EU 외부의 AI 제공업체가 EU 사용자에게 서비스를 제공하는 경우 준수해야 함을 의미한다. 이로 인해 유사한 법률이 없는 지역에서도 EU 표준에 부합하는 글로벌 기업 정책이 수립되었다.
비판 및 논쟁
법률 학자와 업계 전문가들은 금지 조항의 명확성과 실현 가능성에 대해 논쟁해 왔다. 비평가들은 "조작적 기법" 및 "중대한 피해"와 같은 용어가 모호하여 일관성 없는 집행으로 이어질 수 있다고 주장한다. 다른 이들은 법 집행에 대한 예외가 너무 광범위하여 잠재적 오용 가능성이 있다고 주장한다. 지지자들은 금지 조항이 기본권을 보호하고 글로벌 기준을 설정한다고 강조한다. 유럽연합 집행위원회는 기술이 발전함에 따라 추가 지침을 제공하고 금지 관행 목록을 업데이트하여 법이 새로운 위험에 대응할 수 있도록 유지하겠다고 약속했다.
향후 전망
2025년 현재 금지 조항이 집행되고 있으며, 국가 당국이 준수 통지서를 발부하기 시작했다. 유럽연합 집행위원회는 기술 발전과 조정 필요성을 고려하여 2029년까지 이행을 검토할 계획이다. 금지 조항의 성공은 회원국 간의 효과적인 조정과 새로운 AI 역량에 적응하는 능력에 달려 있다. EU AI Act 금지 조항은 혁신과 개인 권리 보호의 균형을 맞추면서 AI의 가장 해로운 극단을 규제하려는 선구적인 노력을 대표한다.