EU AI Act 거버넌스는 2024년에 채택된 포괄적인 규제인 유럽연합 인공지능법을 시행하기 위해 설계된 행정 및 감독 구조입니다. 이 프레임워크는 EU 27개 회원국 전역에서 AI 규칙의 일관된 적용을 보장하고, 혁신과 기본권 보호의 균형을 맞추기 위해 마련되었습니다. 거버넌스 시스템은 여러 수준에서 운영되며, 유럽 AI 사무소가 중앙 조정 기구 역할을 하고 국가별 권한 당국이 일상적인 집행을 담당합니다.
거버넌스 아키텍처는 Artificial intelligence에 대한 EU의 위험 기반 접근 방식을 반영하여 AI 시스템을 허용 불가, 고위험, 제한적 위험, 최소 위험 등급으로 분류합니다. 이 프레임워크는 시장 감시, 적합성 평가, 시판 후 모니터링에 대한 명확한 책임을 설정하며, 국경 간 문제와 새로운 도전 과제를 해결하기 위한 구체적인 메커니즘을 포함합니다.
유럽 AI 사무소
유럽 AI 사무소는 2024년 2월 유럽 위원회 내에 설립되어 AI 거버넌스의 운영 허브 역할을 합니다. 브뤼셀에 위치한 이 사무소는 기술 전문가, 법률 전문가, 정책 분석가를 포함한 약 100명의 다학제 팀을 고용하고 있습니다. 주요 기능에는 지침 개발, 국가 당국과의 조정, AI 법 조항 시행 관리가 포함됩니다.
사무소는 여러 전문 부서를 통해 운영됩니다: AI 혁신 및 규제 샌드박스에 중점을 둔 부서, 집행 조정을 담당하는 부서, 국제 협력 전담 부서입니다. 또한 시장에 출시된 고위험 AI 시스템을 추적하는 EU의 AI 데이터베이스를 유지합니다. 2024년 사무소 예산은 4,700만 유로로 설정되었으며, 규정 조항이 발효됨에 따라 점진적 확대 계획이 있습니다.
국가별 권한 당국
각 EU 회원국은 국내 수준에서 AI 법을 집행하기 위해 최소한 하나의 국가별 권한 당국을 지정해야 합니다. 이러한 당국은 일반적으로 기존 데이터 보호 기관 또는 새로 설립된 AI 감독 기관입니다. 예를 들어, 독일은 2024년 연방 AI 사무소(Bundesamt für KI)를 설립했으며, 프랑스는 국가정보자유위원회(CNIL)를 주요 AI 규제 기관으로 지정했습니다.
국가 당국은 시장 감시 수행, 불만 사항 조사, 위반에 대한 벌칙 부과를 담당합니다. 또한 집행 활동을 상세히 기술한 연례 보고서를 유럽 AI 사무소에 제출해야 합니다. 규정은 이러한 당국이 충분한 기술 전문성과 자원을 보유하도록 요구하며, 국가 인구 규모에 기반한 최소 인력 수준을 설정합니다.
조정 메커니즘
AI 법은 균일한 적용을 보장하기 위해 여러 조정 메커니즘을 설립합니다. 각 회원국의 권한 당국 대표로 구성된 유럽 인공지능 위원회는 위원회에 자문을 제공하고 정보 공유를 촉진합니다. 이 위원회는 분기별로 회의를 개최하며 기술 표준 및 시행 문제에 대한 의견을 제시합니다.
주요 조정 도구는 상호 지원 절차로, 국가 당국이 국경 간 AI 사건을 조사할 때 다른 회원국의 대응 기관에 도움을 요청할 수 있게 합니다. 또한 위원회는 기술 요구 사항을 조화시키기 위해 시행 법률을 발행할 수 있으며, 유럽 AI 사무소는 투명성을 높이기 위해 고위험 AI 시스템의 공개 등록부를 유지합니다.
자문 기구 및 이해관계자 참여
거버넌스 프레임워크에는 산업계, 학계, 시민 사회 대표로 구성된 자문 포럼이 포함됩니다. 이 포럼은 규제 제안에 대한 기술 전문성과 피드백을 제공합니다. Machine learning 및 Deep learning 전문가를 포함한 과학 전문가 상설 위원회는 위원회가 새로운 위험을 식별하고 AI 법 부속서 업데이트 필요성을 평가하는 데 지원합니다.
이해관계자 참여는 규제 샌드박스를 통해 더욱 지원되며, 기업이 완전한 시장 출시 전에 감독 하에 AI 시스템을 테스트할 수 있게 합니다. 이러한 샌드박스는 EU 수준에서 조정되지만 국가 당국이 운영하며, 2025년 8월까지 각 회원국에 최소 하나가 설립됩니다.
집행 및 벌칙
집행은 점진적 접근 방식을 따릅니다. 금지된 AI 관행과 관련된 위반의 경우, 벌금은 최대 3,500만 유로 또는 회사의 전 세계 연간 매출액의 7% 중 더 높은 금액에 이를 수 있습니다. 데이터 거버넌스 또는 투명성 의무와 같은 기타 요구 사항의 불이행은 최대 1,500만 유로 또는 매출액의 3%의 벌금이 부과됩니다. 소규모 기업과 스타트업은 경미한 위반에 대해 750만 유로 또는 매출액의 1.5% 상한으로 감경된 벌금을 받습니다.
유럽 AI 사무소는 자체 발의 또는 개인이나 조직의 불만 제기에 따라 조사를 시작할 수 있습니다. 건강이나 안전에 대한 심각한 위험을 포함하는 긴급 사건의 경우, 국가 당국은 전체 절차가 종결되기 전에 AI 시스템 사용 중단을 포함한 즉각적인 조치를 취할 수 있습니다.
전환 기간 및 시행 일정
AI 법의 거버넌스 조항은 수년에 걸쳐 단계적으로 도입되고 있습니다. 제5조에 따른 금지 관행은 2025년 2월에 적용 가능해졌습니다. Large language model 시스템을 포함한 범용 AI 모델은 2025년 8월까지 투명성 및 저작권 의무를 준수해야 합니다. 고위험 AI 시스템은 더 긴 전환 기간을 가지며, 대부분의 요구 사항은 2026년 8월부터 적용되고 특정 내장 시스템은 2027년 8월까지 연장됩니다.
이 전환 기간 동안 유럽 AI 사무소는 시행 지침, 기술 표준, 적합성 평가 절차를 개발하고 있습니다. 사무소는 또한 이러한 시행 조치에 대한 의견을 수집하기 위해 공개 협의 절차를 시작했으며, 초안은 2025년 중반까지 확정될 예정입니다.
국제 협력 및 글로벌 영향
EU AI Act 거버넌스는 개인정보 보호법에 대한 일반 데이터 보호 규정의 영향과 유사하게 글로벌 참조점 역할을 하도록 설계되었습니다. 유럽 AI 사무소는 미국, 일본, 캐나다의 규제 기관과 양자 대화를 구축했으며, 유럽 평의회의 AI 프레임워크 협약에도 참여하고 있습니다. 이러한 노력은 규제 접근 방식을 조정하고 국경 간 AI 무역을 촉진하는 것을 목표로 합니다.
EU 시장에 AI 시스템을 배포하는 비EU 기업은 본사 위치와 관계없이 규정을 준수해야 합니다. 이러한 역외 적용 범위는 OpenAI 및 Google DeepMind와 같은 주요 AI 개발자들이 EU 특화 준수 팀을 설립하고 요구 사항을 충족하기 위해 제품을 조정하도록 촉구했습니다.
거버넌스 프레임워크에는 Generative AI 및 Neural network 아키텍처의 발전과 같은 기술 개발 모니터링 조항도 포함됩니다. 위원회는 2년마다 AI 법을 검토해야 하며, 첫 검토는 2026년으로 예정되어 거버넌스 구조가 새로운 도전 과제에 적절한지 평가합니다.
도전 과제 및 비판
포괄적인 설계에도 불구하고 거버넌스 프레임워크는 여러 시행 도전에 직면합니다. 비평가들은 의료 기기 규정 및 일반 데이터 보호 규정과 같은 기존 부문별 규정과의 잠재적 중복이 규제 준수 복잡성을 초래한다고 지적했습니다. 유럽 AI 사무소의 제한된 인력은 AI 배포 규모에 비해 집행 능력에 대한 우려를 제기했습니다.
산업계 대표들은 위험 기반 분류가 빠르게 진화하는 기술에 너무 경직될 수 있다고 주장하는 반면, 시민 사회 단체는 특정 고위험 범주가 너무 좁다고 주장합니다. 거버넌스 시스템의 효과는 유럽 표준화 기관이 개발한 기술 표준의 품질과 국가 당국의 효과적인 조정 의지에 달려 있습니다.
2025년 초 현재, 유럽 AI 사무소는 기술 인력을 적극적으로 채용하고 운영 절차를 개발 중입니다. 국가 당국의 첫 연례 보고서는 2025년 후반에 예상되며, 프레임워크 성과에 대한 초기 데이터를 제공합니다. 거버넌스 구조는 초국가적 수준에서 Artificial intelligence를 규제하려는 가장 야심 찬 시도 중 하나를 대표하며, 그 시행은 전 세계 정책 입안자들이 주목할 것입니다.