EU AI Act는 유럽 연합의 규정으로, 회원국 전역에 걸쳐 인공지능에 대한 조화된 법적 체계를 수립한 것이다. 이는 주요 규제 기관이 채택한 최초의 포괄적인 AI 전용 법률로 널리 평가받는다. 2021년 유럽 위원회가 제안했으며, 2024년 공식적으로 채택되어 2024년 8월 1일 발효되었고, 대부분의 의무는 이후 2~3년에 걸쳐 단계적으로 적용되었다.
구조
이 법은 AI 시스템을 기술을 획일적으로 규제하는 대신 위험 등급에 따라 분류한다. "허용할 수 없는 위험"으로 간주되는 시스템(예: 정부의 사회적 점수 부여 및 특정 생체 인식 감시)은 전면 금지된다. "고위험" 시스템(고용, 신용 평가, 법 집행, 핵심 인프라 분야의 다수 용도 포함)은 시장 출시 전에 위험 관리, 데이터 품질, 문서화, 인간 감독, 적합성 평가에 관한 요구 사항을 충족해야 한다. 저위험 시스템은 사용자가 챗봇과 상호작용하거나 딥페이크를 볼 때 이를 고지하는 등 더 가벼운 투명성 의무를 진다. 이후 추가된 조항은 일반 목적 AI 모델을 직접 다루며, 가장 강력한 모델에는 "체계적 위험"으로 분류되어 추가 의무가 부과되는데, 이 분류 기준은 프론티어 모델을 어떻게 정의할지에 대한 지속적인 논쟁 속에서 형성되었다.
개발 및 논쟁
입법 과정은 2022년 말 챗GPT 출시 이후 대규모 언어 모델의 급속한 부상과 함께 진행되었다. 이는 입법자들이 협상 중간에 일반 목적 모델을 겨냥한 조항을 추가하도록 촉구했다. 주요 AI 기업을 포함한 산업계는 규제 범위와 부담에 대해 로비를 벌였으며, 특히 유럽의 신생 기업과 소규모 개발자가 미국과 중국의 대기업에 비해 불이익을 받을 수 있다는 우려를 제기했다. 시민 사회와 AI 윤리 연구자들은 일반적으로 규제를 지지했지만, 위험 기반 접근 방식이 기존 자동화 의사 결정 시스템에서 문서화된 알고리즘 편향과 같은 피해를 적절히 해결하는지에 대해서는 의견이 갈렸다.
영향
이 법은 유럽 연합을 AI 규제 분야의 선도자로 자리매김하게 했으며, 미국의 분야별·자발적 접근 방식이나 다른 국가들의 규제 유치 경쟁과 대비를 이룬다. 2025년, 2026년, 2027년에 걸친 단계적 시행은 AI 모델 개발과 배포에 실질적인 영향을 미치기 시작했으며, 이 법은 이후 블레츨리 선언과 같은 국제 포럼을 포함한 글로벌 AI 거버넌스 논의에서 자주 언급되는 기준점이 되었다.