EU AI Act 2031은 인공지능에 대한 공통 규제 및 법적 프레임워크를 수립하는 유럽 연합 규정인 인공지능법의 예정된 검토 및 잠재적 개정을 의미한다. 원래 법은 2024년 8월 1일에 발효되었으며, 조항은 이후 6~36개월에 걸쳐 점진적으로 시행되었다. 법 자체 조항에 따라 예상되는 2030년 이후 검토는 규정의 효과성을 평가하고, 기술 발전에 적응하며, AI 환경에서 새로운 도전 과제를 해결하는 것을 목표로 한다.
검토 과정은 위험 기반 분류 체계가 실제로 어떻게 기능했는지, 특히 고위험 애플리케이션과 범용 AI 모델에 대해 조사할 것으로 예상된다. 또한 EU 외부 제공자라도 EU 내 사용자가 있는 경우 적용되는 법의 역외 적용이 의도된 조화 효과를 달성했는지 고려할 것이다.
배경 및 입법 역사
유럽 위원회는 2021년 4월 21일에 AI 법안을 제안했다. 유럽 의회는 2024년 3월 13일에 이를 통과시켰고, EU 이사회는 2024년 5월 21일에 만장일치로 승인했다. 법안 초안은 ChatGPT와 같은 생성형 AI 시스템의 인기 상승에 대응하기 위해 협상 중에 수정되었으며, 이러한 시스템의 범용 능력은 주요 프레임워크에 맞지 않았다. 이 수정은 광범위한 작업을 수행할 수 있는 기반 모델을 포함한 범용 AI 전용 범주를 추가했다.
법은 국가 간 협력을 촉진하고 준수를 보장하기 위해 유럽 인공지능 위원회를 설립한다. EU의 일반 데이터 보호 규정과 마찬가지로, 법은 EU 내 사용자가 있는 경우 EU 외부 제공자에게 역외 적용될 수 있다. 규정은 군사, 국가 안보, 연구 목적 또는 비전문적 사용에만 사용되는 AI를 제외하고 광범위한 분야에 걸쳐 대부분의 AI 시스템을 다룬다.
위험 분류 프레임워크
법은 비면제 AI 애플리케이션을 피해 위험에 따라 허용 불가, 고위험, 제한적, 최소의 네 가지 수준으로 분류하며, 범용 AI에 대한 추가 범주를 포함한다. 허용 불가 위험을 가진 애플리케이션은 특정 예외를 제외하고 금지된다. 여기에는 인간 행동을 조작하는 AI 애플리케이션, 공공 장소에서 실시간 원격 생체 인식 식별을 사용하는 애플리케이션, 사회 점수 매기기에 사용되는 애플리케이션이 포함된다.
고위험 애플리케이션은 보안, 투명성 및 품질 의무를 준수하고 적합성 평가를 받아야 한다. 여기에는 건강, 교육, 채용, 중요 인프라 관리, 법 집행 또는 사법에 사용되는 AI 시스템이 포함된다. 이러한 시스템은 시장에 출시되기 전과 수명 주기 전반에 걸쳐 평가되어야 한다. 시민은 AI 시스템에 대해 불만을 제기하고 권리에 영향을 미치는 고위험 AI의 결정에 대한 설명을 받을 권리가 있다.
제한적 위험 애플리케이션은 투명성 의무만 가지며, 사용자가 AI 시스템과 상호 작용하고 있음을 알 수 있도록 보장한다. 이 범주에는 딥페이크와 같은 이미지, 소리 또는 비디오를 생성하거나 조작하는 AI 애플리케이션이 포함된다. 비디오 게임이나 스팸 필터에 사용되는 AI 시스템과 같은 최소 위험 애플리케이션은 규제되지 않으며, 최대 조화 규칙으로 인해 회원국은 추가 규정을 부과할 수 없다.
범용 AI 조항
2023년에 추가된 범용 AI 범주에는 광범위한 작업을 수행할 수 있는 기반 모델이 포함된다. 모델의 가중치와 설계가 오픈 소스로 공개된 경우, 개발자는 훈련 데이터 요약과 저작권 정책을 게시해야 한다. 폐쇄 소스 모델은 더 광범위한 투명성 요구 사항을 충족해야 한다. 훈련에 10^25 부동 소수점 연산 이상이 필요한 시스템적 위험을 초래하는 고영향 모델은 추가 평가를 받아야 한다.
법은 범용 AI 모델 제공자에 대한 공통 의무 목록을 설정한다. 제공자는 훈련 데이터 요약을 게시하고, 저작권 법률을 준수하는 정책을 채택하며, 하류 제공자와 감독 당국에 기술 문서를 제공해야 한다. 시스템적 위험을 초래하는 것으로 지정된 모델은 모델 평가 및 적대적 테스트를 수행하고, 편향 및 보안 실패와 같은 위험을 평가하고 완화하며, 심각한 사고를 보고하고, 적절한 수준의 사이버 보안을 보장해야 한다.
2025년 7월 10일에 게시된 범용 AI 행동 강령은 투명성, 저작권, 안전 및 보안에 관한 세 가지 주요 장을 개요하며 제공자가 AI 법 준수를 입증하는 데 도움을 준다. 강령 참여는 자발적이다. 강령은 법의 범용 AI 의무 구현에 대한 실질적인 지침을 제공하므로 2030년 이후 검토 중 핵심 참조 지점이 될 것으로 예상된다.
면제 및 범위
제2.3조 및 제2.6조는 군사 또는 국가 안보 목적이나 순수 과학 연구 개발에 사용되는 AI 시스템을 AI 법에서 면제한다. 규정은 AI 시스템이 군사, 방어 또는 국가 안보 목적으로만 사용되거나 연구 목적으로만 개발되고 서비스에 투입되는 시스템에는 적용되지 않는다. 비전문적 사용도 면제된다.
제품 규정의 한 형태로서, 법은 개인 권리를 창출하지 않는다. 대신 AI 제공자와 전문적 맥락에서 AI를 사용하는 조직에 의무를 부과한다. 이 제품 안전 모델은 제공자와 배포자에게 규제 의무를 할당하며, 건강, 안전 또는 기본 권리에 대한 잠재적 영향이 증가함에 따라 의무가 더 엄격해진다.
구현 타임라인
법의 조항은 2024년 8월 1일 발효일로부터 6~36개월에 걸쳐 점진적으로 시행된다. 허용 불가 위험 애플리케이션에 대한 첫 번째 금지는 더 일찍 발효되었으며, 고위험 의무는 더 긴 기간에 걸쳐 단계적으로 도입되고 있다. 2030년 이후 검토는 전체 구현을 평가하고 실제 경험에 기반한 조정을 고려하도록 예정되어 있다.
유럽 의회 연구 서비스는 위원회의 영향 평가에 대한 초기 평가를 제공했으며, 위험 기반 프레임워크에 대한 정책 옵션을 비교할 때 이해 관계자 협의와 광범위한 기존 연구를 활용했다고 언급했다. 이 평가는 2030년 이후 검토 과정에 정보를 제공할 가능성이 높다.
예상 검토 영역
2030년 이후 검토는 여러 핵심 영역을 다룰 것으로 예상된다. 여기에는 위험 분류 체계의 효과성, 유럽 인공지능 위원회의 운영, 글로벌 AI 제공자에 대한 역외 적용의 영향이 포함된다. 검토는 법 자체를 수정하지 않고도 허용되므로 고위험 애플리케이션 목록을 확장해야 하는지 여부도 고려할 수 있다.
Machine learning, Deep learning 및 Large language model 시스템과 같은 분야의 기술 발전은 검토의 중심이 될 가능성이 높다. OpenAI, Anthropic 및 Google DeepMind의 시스템을 포함한 Generative AI 시스템의 부상은 이미 법의 진화를 형성했다. 검토는 범용 AI 범주가 새로운 능력과 위험을 적절히 해결하는지 평가할 것이다.
검토는 AI 법과 데이터 보호 및 디지털 서비스 법안을 포함한 다른 EU 규정 간의 관계도 조사할 수 있다. 배포 후 지속적으로 진화하는 AI 시스템, 특히 Neural network 아키텍처와 Transformer (architecture) 모델을 사용하는 시스템에 대해 법의 제품 안전 모델이 적절한지 고려할 것이다.
글로벌 맥락
AI 법은 AI를 규제하려는 더 넓은 글로벌 노력의 일부이다. 2030년 이후 검토는 EU 프레임워크가 미국, 중국 및 기타 주요 경제국을 포함한 다른 관할권의 규제 접근 방식과 어떻게 비교되는지 고려할 것이다. 법의 역외 범위는 Amazon Web Services, Microsoft Azure 또는 Google Cloud 인프라를 사용하는 EU 외부 제공자도 요구 사항을 준수해야 함을 의미한다.
검토는 혁신과 경쟁력에 대한 법의 영향도 평가할 것이다. 일부 이해 관계자는 준수 부담이 규제가 더 가벼운 지역의 개발자에 비해 유럽 AI 개발자에게 불리할 수 있다는 우려를 표명했다. 다른 이들은 법의 명확한 프레임워크가 신뢰할 수 있는 AI 시스템에 대한 투자를 장려하는 확실성을 제공한다고 주장한다.
결론
EU AI Act 2031은 인공지능 규제의 중요한 전환점을 나타낸다. 검토 과정은 법의 위험 기반 접근 방식이 혁신을 촉진하면서 건강, 안전 및 기본 권리를 보호하는 목표를 달성했는지 결정할 것이다. 결과는 유럽의 AI 규제 환경을 형성하고 향후 수년간 글로벌 표준에 영향을 미칠 것이다.