EU AI Act 제재는 2024년 8월 1일 발효된 유럽연합 인공지능법(Regulation (EU) 2024/1689)의 집행 체계를 구성한다. 이 제재는 세계 최초의 포괄적 수평 규제인 인공지능 시스템 규제의 준수를 보장하기 위해 설계되었다. 이 제재는 경미한 위반에 대해 750만 유로 또는 글로벌 연간 매출의 1.5%부터 가장 심각한 위반에 대해 3500만 유로 또는 7%까지, 위반 유형과 사업체 규모에 따라 차등화된 행정 벌금 체계를 확립한다. 이러한 벌금은 AI 시스템의 제공자, 배포자, 수입자, 유통업자 및 승인된 대리인에게 적용되며, 본사 소재지와 관계없이 EU 시장 내에서 활동하는 모든 주체에게 적용되어 규제의 역외 적용 범위를 반영한다.
벌금 구조는 AI 애플리케이션을 금지, 고위험, 제한적 위험, 최소 위험의 네 가지 범주로 분류하는 EU AI Act의 위험 기반 접근 방식에 맞춰 조정된다. 가장 높은 벌금은 정부의 사회적 점수 부여, 공개적으로 접근 가능한 공간에서의 실시간 원격 생체 인식(좁은 예외 포함), 그리고 조작적 또는 착취적 AI 시스템과 같은 금지된 AI 관행과 관련된 위반에 대해 부과된다. 이 규정은 또한 지정 기관 또는 국가 당국에 잘못된 정보를 제공하는 경우와 생성형 AI 시스템(대규모 언어 모델 및 범용 AI 모델 포함)의 투명성 의무를 준수하지 않는 경우에 대한 특정 벌금을 도입한다.
금지된 AI 관행 및 최대 벌금
EU AI Act 제5조에 따라 특정 AI 관행은 허용되지 않는 것으로 간주되어 전면 금지된다. 이러한 금지 사항을 위반하면 가장 높은 벌금 등급이 적용된다: 직전 회계 연도의 총 세계 연간 매출의 7% 또는 3500만 유로 중 더 높은 금액까지 부과된다. 이 기준은 제공자와 배포자 모두에게 적용된다. 금지된 관행은 다음과 같다:
- 특정 집단(예: 어린이 또는 장애인)의 취약성을 이용하거나 잠재의식적 기법을 사용하여 해를 초래하는 방식으로 행동을 실질적으로 왜곡하는 AI 시스템 배포.
- 연령, 장애 또는 사회경제적 상황과 관련된 취약성을 착취하는 행위.
- 사회적 행동 또는 예측된 개인 특성에 기반한 개인 평가 또는 분류(사회적 점수 부여)로 인해 불리한 대우를 초래하는 행위.
- 사전 사법 승인을 받은 좁게 정의된 상황(예: 실종자 수색, 임박한 테러 위협 방지)을 제외하고, 공개적으로 접근 가능한 공간에서 법 집행 목적의 실시간 원격 생체 인식 사용.
7% 상한은 EU 일반 데이터 보호 규정(GDPR)의 최대 벌금인 2000만 유로 또는 글로벌 매출의 4%보다 상당히 높다. 이는 AI 안전과 기본권을 집행하려는 EU의 의지를 반영한다.
고위험 AI 시스템 및 비준수 벌금
고위험 AI 시스템(법 부속서 III)과 관련된 의무 위반의 경우, 여기에는 핵심 인프라, 교육, 고용, 필수 서비스, 법 집행, 이민 및 사법에 사용되는 AI가 포함되며, 벌금은 글로벌 연간 매출의 3% 또는 1500만 유로 중 더 높은 금액까지 부과된다. 고위험 시스템은 위험 관리, 데이터 거버넌스, 기술 문서, 기록 보관, 투명성, 인간 감독, 정확성, 견고성 및 사이버 보안을 포함한 엄격한 요구 사항을 준수해야 한다. 적합성 평가를 수행하지 않거나 EU 데이터베이스에 시스템을 등록하지 않는 등 이러한 의무를 이행하지 않으면 이 벌금 등급이 적용된다.
투명성 의무 및 하위 등급 벌금
챗봇, 딥페이크 및 감정 인식 시스템과 같이 인간과 상호 작용하는 AI 시스템은 사용자에게 AI 특성을 공개해야 한다. 이러한 투명성 의무를 준수하지 않으면 글로벌 매출의 1.5% 또는 750만 유로 중 더 높은 금액까지 벌금이 부과된다. 이 등급은 지침에 따라 고위험 시스템을 사용하지 않거나 적절한 보호 장치 없이 이러한 시스템을 노출시키는 배포자의 위반에도 적용된다.
잘못된 정보에 대한 벌금
요청에 따라 지정 기관 또는 국가 당국에 잘못되거나 불완전하거나 오해를 불러일으키는 정보를 제공하면 글로벌 매출의 1% 또는 500만 유로까지 벌금이 부과될 수 있다. 이는 적합성 평가 및 시장 감시 프로세스의 무결성을 보장하기 위해 설계된 별도의 위반 사항이다.
벌금 계산 및 합산
벌금은 직전 회계 연도의 사업체 총 세계 연간 매출을 기준으로 계산된다. 그룹의 일부인 사업체의 경우 그룹 전체의 매출이 고려된다. 여러 위반이 발생하면 벌금이 합산되지만, 총액은 가장 심각한 위반에 대한 최대 상한을 초과할 수 없다. 이러한 제재는 피해를 입은 개인의 손해 배상 청구를 포함하여 EU 또는 국가 법률에 따른 다른 구제 수단에 영향을 미치지 않는다.
집행 일정 및 전환 기간
EU AI Act는 단계적 적용 날짜를 포함한다. 금지된 관행에 대한 금지는 2025년 2월 2일부터 적용된다. OpenAI의 GPT 모델, Anthropic의 Claude, Google DeepMind의 Gemini에 대한 의무를 포함한 범용 AI 의무는 2025년 8월 2일부터 적용된다. 고위험 시스템 요구 사항은 대부분의 시스템에 대해 2026년 8월 2일부터 적용되며, 기존 EU 법률(예: 의료 기기, 기계)의 적용을 이미 받는 제품에 대한 일부 예외는 2027년 8월 2일까지 유예된다. 회원국은 2025년 8월 2일까지 국가 당국을 지정하고 효과적이고 비례적이며 억지력 있는 제재를 수립해야 한다. 유럽 위원회 내에 설립된 유럽 AI 사무소는 EU 차원의 집행을 조정한다.
거버넌스 및 감독 기관
EU AI Act는 회원국 대표와 유럽 데이터 보호 감독관으로 구성된 유럽 인공지능 위원회를 포함하는 거버넌스 구조를 수립한다. 국가 시장 감시 기관은 해당 영토에서 제재를 집행할 책임이 있다. 이들은 조사 수행, 문서 요청 및 벌금 부과 권한을 가진다. 심각한 위험을 제시하는 AI 시스템의 경우, 당국은 시장에서 철수 또는 회수를 명령할 수 있다. 국경 간 사례에서는 당국이 위원회를 통해 협력하여 일관된 적용을 보장한다.
글로벌 AI 산업에 미치는 영향
이 제재는 AI 인프라를 제공하는 Amazon Web Services, Microsoft Azure, Google Cloud, Alibaba Cloud를 포함한 글로벌 기술 기업에 중요한 영향을 미친다. AI 칩을 공급하는 Intel, AMD, Nvidia, Qualcomm과 같은 기업도 제품이 고위험 시스템에 사용되는 경우 영향을 받을 수 있다. 역외 적용 범위는 EU 사용자에게 AI 서비스를 제공하는 모든 제공자 또는 배포자가 위치에 관계없이 준수해야 함을 의미한다. 이는 많은 기업이 AI 거버넌스 프레임워크를 수립하고 감사를 수행하는 글로벌 준수 노력으로 이어졌다. 이 제재는 자체 AI 규제를 개발 중인 미국, 중국, 캐나다와 같은 다른 관할권의 벤치마크로 간주된다.
벌금은 억지력을 갖도록 설계되었지만 명확한 규칙을 제공하여 혁신을 촉진하는 것을 목표로 한다. 중소기업(SME) 및 스타트업은 동일한 벌금의 적용을 받지만, 규정에는 규제 샌드박스 및 특정 경우 SME에 대한 벌금 감면 조항이 포함되어 있으며, 정확한 감면 규모는 회원국에 위임된다. 2025년 현재 집행 날짜가 아직 미래이므로 부과된 벌금은 없다. 그러나 벌금의 위협은 이미 많은 조직이 위험 평가 및 문서화를 포함한 준비 작업을 시작하도록 촉구했다.
다른 규제 벌금과의 비교
EU AI Act 제재는 EU 디지털 규제 중 가장 높은 수준에 속한다. GDPR의 최대 2000만 유로 또는 4%는 더 낮은 반면, 디지털 시장법(DMA)은 체계적 위반에 대해 글로벌 매출의 10%, 반복 위반에 대해 최대 20%까지 벌금을 부과할 수 있다. AI Act의 7% 상한은 GDPR보다 높지만 DMA보다 낮으며, 이는 서로 다른 정책 목표를 반영한다. 이 제재는 또한 매출 기반 계산으로 유명하며, 이는 대기업이 상당한 벌금을 직면하는 반면 소규모 기업은 더 낮은 절대 금액을 지불할 수 있도록 보장한다.
향후 발전 및 과제
집행 날짜가 다가옴에 따라 벌금의 실질적 적용에 대한 질문이 남아 있다. '글로벌 연간 매출'의 정의는 명확하지만, '시장 출시' 및 '서비스 개시'의 해석은 법적 도전을 초래할 수 있다. 유럽 위원회는 제재 이행에 관한 지침을 발행할 것으로 예상된다. 또한 이 법은 준수를 강제하기 위해 평균 일일 매출의 최대 5%까지 정기 벌금 지불을 허용한다. 벌금의 효과는 국가 당국의 자원과 전문성에 달려 있다. EU는 또한 범용 AI에 대한 실행 강령을 개발 중이며, 이는 의무와 잠재적 제재를 더욱 명확히 할 것이다.
요약하면, EU AI Act 제재는 AI 시스템이 기본권과 안전을 존중하는 방식으로 개발되고 사용되도록 보장하기 위해 설계된 강력한 집행 메커니즘을 나타낸다. 500만 유로에서 3500만 유로 또는 글로벌 매출의 최대 7%까지의 차등화된 벌금은 조직의 책임을 묻겠다는 EU의 의지를 보여준다. AI 환경이 진화함에 따라 이러한 제재는 실제로 시험될 가능성이 높으며, 전 세계 AI 개발자와 배포자의 행동을 형성할 것이다.