EU AI Act 2032는 유럽연합의 인공지능법(AI Act)의 예정된 개정판으로, EU 내 인공지능에 대한 공통 규제 및 법적 프레임워크를 수립하는 규정이다. 원래 규정은 2024년 8월 1일에 발효되었으며, 조항들은 이후 6~36개월에 걸쳐 점진적으로 적용될 예정이었다. 2032년 개정은 초기 프레임워크에서 완전히 다루지 못한 새로운 도전과 기술 발전, 특히 범용 인공지능과 시스템적 위험 관리 분야를 해결할 것으로 예상된다.
AI Act는 광범위한 분야의 대부분의 AI 시스템을 대상으로 하지만, 군사, 국가 안보, 연구 목적 또는 비전문적 사용에만 사용되는 AI는 면제된다. 제품 규제의 한 형태로서 개인 권리를 창설하지 않으며, AI 제공자와 전문적 맥락에서 AI를 사용하는 조직에 의무를 부과한다. 이 법은 면제되지 않은 AI 애플리케이션을 허용 불가, 고위험, 제한적, 최소 위험의 네 가지 위험 수준과 범용 인공지능을 위한 추가 범주로 분류한다. 2032년 개정은 구현 경험과 기술 발전에 따라 이러한 범주를 세분화할 것으로 기대된다.
입법 배경
유럽위원회는 2021년 4월 21일에 원래 AI Act를 제안했다. 유럽의회는 2024년 3월 13일에 이를 통과시켰고, EU 이사회는 2024년 5월 21일에 만장일치로 승인했다. 초안은 대규모 언어 모델과 같은 생성형 AI 시스템의 부상을 해결하기 위해 수정되었으며, 이러한 시스템의 범용 기능은 주요 프레임워크에 맞지 않았다. 이 법은 또한 국가 간 협력을 촉진하고 준수를 보장하기 위해 유럽 인공지능 위원회를 설립한다. EU의 일반 데이터 보호 규정과 마찬가지로, 이 법은 EU 내 사용자가 있는 경우 EU 외부 제공자에게도 역외 적용될 수 있다.
2032년 개정 과정은 규정의 효과에 대한 정기적 평가를 요구하는 이 법의 내장된 검토 메커니즘의 일부이다. 유럽위원회는 회원국, 산업 이해관계자 및 시민 사회의 피드백을 고려하여 법의 구현에 대한 포괄적 평가를 수행할 것으로 예상된다. 이 검토는 위험 기반 접근 방식이 새로운 AI 애플리케이션을 적절히 다루는지, 고위험 범주 목록에 조정이 필요한지 여부를 조사할 가능성이 높다.
검토 중인 위험 범주
원래 법은 네 가지 위험 수준을 설정한다. 허용 불가 위험 애플리케이션은 특정 면제를 제외하고 금지되며, 인간 행동을 조작하는 AI, 공공 장소에서의 실시간 원격 생체 인식 식별, 사회적 점수 매기기가 포함된다. 고위험 애플리케이션 - 건강, 안전 또는 기본 권리에 중대한 위협을 제기하는 것 - 은 보안, 투명성 및 품질 의무를 준수하고 적합성 평가를 받아야 한다. 제한적 위험 애플리케이션은 사용자가 AI와 상호 작용하고 있음을 알리는 것과 같은 투명성 의무가 있다. 비디오 게임이나 스팸 필터와 같은 최소 위험 애플리케이션은 규제되지 않는다.
2032년 개정은 새로운 AI 애플리케이션이 이러한 범주에 속하는지 여부를 고려할 수 있다. 예를 들어, 생성형 AI 및 신경망의 발전은 특정 사용의 재분류를 촉발할 수 있다. 이 법은 법 자체를 수정하지 않고도 고위험 애플리케이션 목록을 시간이 지남에 따라 확장할 수 있도록 허용하므로, 개정은 새로운 피해 증거에 기반한 추가 사항을 제안할 수 있다.
범용 인공지능 조항
2023년에 추가된 범용 인공지능 범주에는 트랜스포머 기반 모델과 같이 광범위한 작업을 수행할 수 있는 기반 모델이 포함된다. 모델의 가중치와 설계가 오픈 소스로 공개된 경우, 개발자는 훈련 데이터 요약과 저작권 정책을 게시해야 한다. 폐쇄 소스 모델은 더 광범위한 투명성 요구 사항을 충족해야 한다. 시스템적 위험을 제기하는 고영향 모델 - 훈련에 10^25 부동 소수점 연산 이상이 필요한 모델 - 은 추가 평가를 받아야 한다.
2032년 개정은 이러한 임계값과 요구 사항을 업데이트할 수 있다. 2025년 7월 10일에 게시된 범용 인공지능 행동 강령은 투명성, 저작권, 안전 및 보안에 관한 세 가지 주요 장을 개요로 설명한다. 참여는 자발적이지만, 개정은 준수를 의무화하거나 강령의 조항을 강화할 수 있다. 제공자는 훈련 데이터 요약을 게시하고, 저작권 정책을 채택하며, 하류 제공자와 감독 당국에 기술 문서를 제공해야 한다.
시스템적 위험 관리
시스템적 위험을 제기하는 것으로 지정된 모델은 모델 평가와 적대적 테스트를 수행하고, 편향 및 보안 실패와 같은 위험을 평가하고 완화하며, 심각한 사고를 보고하고, 적절한 사이버 보안을 보장해야 한다. 2032년 개정은 이러한 의무를 추가 모델 유형으로 확장하거나 시스템적 위험 지정을 위한 계산 임계값을 낮출 수 있다.
머신 러닝 안전 및 딥 러닝 해석 가능성에 대한 새로운 연구는 이러한 변경에 정보를 제공할 수 있다. 개정은 또한 OpenAI 및 기타 주요 개발자가 제기하는 문제를 해결하여 그들의 최첨단 모델이 진화하는 표준을 충족하도록 보장할 수 있다. 유럽 인공지능 위원회는 기술 평가에 기반한 업데이트를 권장하는 데 중심 역할을 할 가능성이 높다.
면제 및 범위 조정
법의 제2.3조 및 제2.6조는 군사, 국가 안보 또는 순수 과학 연구 개발에 사용되는 AI 시스템을 면제한다. 2032년 개정은 특히 민간 및 군사 목적을 모두 제공하는 이중 용도 기술에 대해 이러한 면제를 명확히 할 수 있다. 또한 연구 면제가 오용을 방지하기 위해 축소되어야 하는지 여부를 고려할 수 있다.
법의 역외 범위는 비EU 제공자의 준수 문제를 해결하기 위해 세분화될 수 있다. 개정은 EU 내 사용자가 있는 제공자에 대한 기존 조항을 기반으로 국제 규제 기관과의 협력을 위한 새로운 메커니즘을 도입할 수 있다.
구현 및 집행
2032년 개정은 초기 구현 기간 동안 식별된 집행 격차를 해결할 가능성이 높다. 이 법은 회원국이 국가 감독 당국을 지정하도록 요구하며, 유럽 인공지능 위원회가 그들의 활동을 조정한다. 개정은 이러한 기관의 권한을 강화하고, 새로운 처벌을 도입하거나, 적합성 평가 절차를 간소화할 수 있다.
시민은 AI 시스템에 대해 불만을 제기하고 권리에 영향을 미치는 고위험 AI의 결정에 대한 설명을 받을 권리가 있다. 개정은 이러한 권리를 확장하거나 의료, 교육 또는 법 집행과 같은 특정 분야에서의 적용을 명확히 할 수 있다. 일부 고위험 시스템에 필요한 기본 권리 영향 평가도 실무 경험에 기반하여 업데이트될 수 있다.
예상 일정 및 절차
2032년 개정은 EU의 일반 입법 절차를 따를 것으로 예상된다. 유럽위원회는 공개 협의와 영향 평가 후 2031년 말 또는 2032년 초에 제안서를 게시할 가능성이 높다. 그런 다음 유럽의회와 이사회가 수정안을 협상하며, 2032년 중반까지 채택이 가능할 수 있다. 개정된 법은 공식 저널에 게시된 후 발효되며, 준수를 위한 전환 기간이 주어진다.
현재 날짜 기준으로 공식 제안은 게시되지 않았으며, 개정의 정확한 범위는 불확실하다. 이해관계자들은 개정이 기술 발전에 법을 적응시키고, 다른 EU 디지털 규정과의 일관성을 개선하며, 구현 문제를 해결하는 데 초점을 맞출 것으로 예상한다. 그 결과는 향후 10년 동안 유럽의 AI 규제 환경을 형성할 것이다.