EU AI Act 2027은 유럽연합 인공지능법(AI Act)의 가장 엄격한 조항들이 완전히 적용되기 시작하는 날짜를 의미한다. 2024년 8월 1일에 발효된 AI Act는 EU 내 인공지능에 대한 포괄적인 규제 체계를 확립한다. 그 조항들은 6개월에서 36개월에 걸쳐 단계적으로 시행되며, 고위험 시스템 요구 사항은 2027년 8월 2일부터 적용된다. 이 이정표는 2021년 4월 21일 유럽위원회 제안으로 시작되어 2024년 3월 13일 유럽의회를 통과하고 2024년 5월 21일 EU 이사회의 만장일치 승인을 받은 입법 과정의 정점을 이룬다.
AI Act는 개인 권리를 창설하지 않고 AI 제공자와 전문 사용자에게 의무를 부과하는 제품 규제의 한 형태이다. 이는 블록 내 사용자가 있는 경우 EU 외부 제공자에게도 역외 적용되며, 이는 일반데이터보호규정(GDPR)과 유사하다. 이 법은 군사, 국가 안보, 연구, 비전문적 사용에 대한 면제를 두고 대부분의 분야에 걸친 대부분의 AI 시스템을 규율한다. AI 애플리케이션을 허용 불가, 고위험, 제한적, 최소 위험의 네 가지 위험 수준과 범용 AI에 대한 별도 범주로 분류한다.
위험 기반 프레임워크
AI Act는 잠재적 피해가 커질수록 규제 의무가 증가하는 제품 안전 모델을 채택한다. 허용 불가 위험 애플리케이션은 인간 행동을 조작하거나, 공공장소에서 실시간 원격 생체 인식 식별을 사용하거나, 사회적 점수화를 가능하게 하는 것을 포함하여 전면 금지된다. 고위험 애플리케이션은 보안, 투명성, 품질 의무를 준수하고 적합성 평가를 거쳐야 한다. 제한적 위험 시스템은 사용자가 AI와 상호작용하고 있거나 콘텐츠가 AI 생성임을 알리는 것과 같은 투명성 의무에 직면한다. 비디오 게임이나 스팸 필터와 같은 최소 위험 애플리케이션은 규제되지 않으며, 최대 조화 원칙으로 인해 회원국은 추가 규칙을 부과할 수 없다.
고위험 의무
2027년 8월 2일부터 의료, 교육, 채용, 핵심 인프라, 법 집행 또는 사법에 사용되는 고위험 AI 시스템은 엄격한 기준을 충족해야 한다. 제공자는 품질 관리 시스템을 구현하고, 인간 감독을 보장하며, 기술 문서를 유지해야 한다. 배포 전에 일부 시스템은 기본 권리에 대한 영향을 식별하고 완화하기 위한 사전 검토인 기본 권리 영향 평가(FRIA)를 요구한다. 이러한 시스템은 시장 출시 전과 수명 주기 전반에 걸쳐 평가되어야 한다. 시민은 AI 시스템에 대해 불만을 제기하고 권리에 영향을 미치는 고위험 AI의 결정에 대한 설명을 받을 권리가 있다. 고위험 애플리케이션 목록은 법 자체를 개정하지 않고도 확장될 수 있다.
범용 AI
2023년에 ChatGPT와 같은 생성형 AI 시스템의 부상을 해결하기 위해 추가된 범용 AI 범주는 광범위한 작업을 수행하는 기반 모델을 포함한다. 오픈소스 모델은 훈련 데이터 요약과 저작권 정책을 공개해야 하는 반면, 폐쇄형 소스 모델은 더 광범위한 투명성 요구 사항에 직면한다. 훈련에 10^25회 이상의 부동 소수점 연산이 필요한 것으로 정의되는 시스템적 위험을 제기하는 고영향 모델은 모델 평가, 적대적 테스트, 위험 완화를 포함한 추가 평가를 거쳐야 한다. 2025년 7월 10일에 발표된 범용 AI 행동 강령은 투명성, 저작권, 안전 및 보안에 관한 장을 개괄하여 제공자가 준수를 입증하도록 돕지만, 참여는 자발적이다.
면제 및 범위
제2.3조와 제2.6조는 군사, 국방 또는 국가 안보 목적으로만 사용되는 AI 시스템과 순수 과학 연구를 위해 개발된 시스템을 면제한다. 이 법은 비전문적 목적으로 사용되는 AI에는 적용되지 않는다. 이러한 면제는 규제가 상업 및 공공 부문 애플리케이션에 초점을 맞추면서 연구 및 보안 맥락에서의 혁신을 허용하도록 보장한다.
거버넌스 및 집행
이 법은 국가 간 협력을 촉진하고 준수를 보장하기 위해 유럽 인공지능 위원회를 창설한다. 각 회원국은 이행을 감독하기 위해 국가 감독 기관을 지정한다. 유럽위원회는 범용 AI 모델을 모니터링하고 시스템적 위험 모델을 지정하는 데 중심적인 역할을 한다. 집행 메커니즘에는 위반 심각도에 따라 벌칙이 조정되는 불이행에 대한 벌금이 포함된다. 이 법의 역외 적용 범위는 미국이나 아시아의 제공자와 같은 비EU 제공자가 EU 내에서 AI 서비스를 제공하는 경우 준수해야 함을 의미한다.
일정 및 이행
AI Act의 조항은 점진적으로 시행되어 왔다. 허용 불가 위험 애플리케이션에 대한 금지는 2025년 2월 2일부터 적용되었다. 범용 AI 의무는 2025년 8월 2일부터 적용 가능해졌다. 적합성 평가 및 FRIA 의무를 포함한 고위험 시스템 요구 사항은 2027년 8월 2일부터 적용된다. 이러한 단계적 일정은 제공자와 배포자가 시스템과 프로세스를 적응시킬 수 있도록 한다. 2027년 날짜는 의료, 교육, 법 집행과 같은 분야에서 특히 중요하며, AI 시스템은 EU에서 합법적으로 운영되기 위해 엄격한 기준을 충족해야 한다.
산업에 미치는 영향
2027년 마감일은 AI 산업 전반에 걸쳐 상당한 준수 투자를 촉진했다. 자율 주행 차량, 의료 진단, 채용 분야의 시스템을 포함한 고위험 AI 시스템을 개발하는 기업은 EU 표준을 충족하기 위해 제품을 재설계해야 한다. 여기에는 강력한 데이터 거버넌스, 로깅 기능, 인간 감독 메커니즘 구현이 포함된다. 이 법의 투명성 강조는 대규모 언어 모델 및 기타 생성형 AI 시스템 개발에도 영향을 미쳤으며, OpenAI 및 Anthropic과 같은 제공자는 모델 문서와 안전 평가를 공개하고 있다. 역외 적용 범위는 미국이나 중국과 같은 EU 외부에 기반을 둔 기업도 유럽 시장에 접근하려면 규정에 맞춰 관행을 조정해야 함을 의미한다.
AI Act의 위험 기반 접근 방식은 혁신과 기본 권리 보호의 균형을 맞춘 것으로 찬사를 받았다. 그러나 일부 비평가들은 고위험 분류가 지나치게 광범위하여 의료 및 교육 분야의 유익한 애플리케이션을 잠재적으로 억압할 수 있다고 주장한다. 다른 이들은 제품 안전에 초점을 맞춘 이 법이 알고리즘 편향이나 일자리 대체와 같은 모든 윤리적 우려를 해결하지는 않는다고 지적한다. 이러한 논쟁에도 불구하고 EU AI Act 2027은 AI 거버넌스의 이정표를 나타내며, 다른 관할권이 따를 수 있는 인공지능 규제에 대한 글로벌 기준을 설정한다.