EU AI Act 투명성 의무는 인공지능법(규정 (EU) 2024/1689) 내의 일련의 요구사항으로, AI에 대한 공통 규제 프레임워크를 수립하는 유럽연합 규정이다. 이러한 의무는 챗봇, 딥페이크 및 기타 생성 도구와 같은 제한적 위험으로 분류된 AI 시스템에 구체적으로 적용되며, 사용자가 AI와 상호작용하거나 콘텐츠가 AI 생성임을 인지하도록 보장하기 위해 설계되었다. 투명성 의무는 위험 기반 접근 방식의 핵심 구성 요소로, 고위험 애플리케이션에는 더 엄격한 규칙을, 저위험 애플리케이션에는 더 가벼운 감독을 할당한다. 이 법은 2024년 8월 1일에 발효되었으며, 투명성 조항은 이후 6개월에서 36개월에 걸쳐 점진적으로 적용되며, EU 사용자에게 서비스를 제공하는 경우 EU 외부의 공급자에게도 역외 적용될 수 있다.
투명성 의무는 AI 애플리케이션을 허용 불가, 고위험, 제한적, 최소의 네 가지 위험 수준과 범용 AI에 대한 별도 범주로 분류하는 광범위한 규제 체계의 일부이다. 많은 생성 AI 애플리케이션을 포함하는 제한적 위험 시스템은 고위험 시스템에 요구되는 엄격한 적합성 평가를 받지 않지만, 특정 공개 요구사항을 충족해야 한다. 이러한 의무는 신뢰와 정보에 기반한 의사 결정을 촉진하여 개인이 AI 개입을 인식하고 상호작용에 대해 의식적인 선택을 할 수 있도록 설계되었다. 이 법은 또한 대규모 언어 모델과 같은 범용 AI 모델에 투명성 의무를 부과하며, 오픈소스 모델에는 요구사항을 축소하고 고성능 시스템에는 추가 평가를 요구한다.
범위 및 적용
투명성 의무는 개인과 상호작용하거나 콘텐츠를 생성하는 AI 시스템에 적용되며, 다양한 분야와 사용 사례를 포괄한다. 이는 AI 시스템이 전문적 맥락에서 배포될 때 촉발되며, 개별 사용자가 아닌 공급자와 배포자가 준수 책임을 진다. 이 법은 군사, 국가 안보 또는 순수 과학 연구 목적으로만 사용되는 AI와 비전문적 활동에 사용되는 시스템을 면제한다. 이러한 범위는 의무가 상업 및 제도적 배포를 대상으로 하면서 개인 또는 연구 용도에 과도한 부담을 주지 않도록 보장한다.
제한적 위험 시스템의 경우 핵심 요구사항은 맥락상 명백하지 않은 한 사용자에게 AI 시스템과 상호작용하고 있음을 알리는 것이다. 예를 들어, 챗봇은 AI 특성을 명확히 공개해야 하며, 딥페이크와 같은 AI 생성 또는 조작된 콘텐츠는 그렇게 표시되어야 한다. 이러한 규칙은 기만을 방지하고 사용자가 정보나 상호작용의 신뢰성을 평가할 수 있도록 설계되었다. 의무는 또한 이미지, 오디오 또는 비디오를 생성하거나 조작하는 AI 시스템으로 확장되어 합성 콘텐츠의 명확한 표시를 요구한다.
제한적 위험 AI에 대한 투명성 요구사항
이 법에 정의된 제한적 위험 AI 시스템은 잠재적 피해가 최소이지만 사용자 보호를 위해 여전히 투명성이 필요한 애플리케이션을 포함한다. 주요 의무는 사용자가 AI와 상호작용하고 있음을 인지하도록 보장하여 정보에 기반한 선택을 할 수 있게 하는 것이다. 이는 AI 특성이 즉시 명확하지 않을 수 있는 챗봇, 가상 비서 및 기타 대화형 인터페이스에 적용된다. 공급자는 명시적 진술이나 맥락적 단서를 통해 이러한 시스템이 자신의 정체성을 명확히 공개하도록 설계해야 한다.
딥페이크 및 기타 합성 미디어의 경우, 이 법은 콘텐츠가 AI 생성 또는 조작된 것으로 표시되도록 요구한다. 이러한 표시는 명확하고 눈에 띄며 매체에 적절해야 하며, 시청자나 청취자가 합성 콘텐츠를 식별할 수 있도록 보장한다. 이 요구사항은 허위 정보에 대응하고 개인이 현실적이지만 조작된 미디어에 속지 않도록 보호하는 것을 목표로 한다. 이 법은 또한 이러한 표시가 기술적으로 견고하여 제거하거나 변경하기 어렵도록 요구하며, 생성 또는 배포 시점에 적용되어야 한다.
범용 AI 투명성
2023년, 초안 법안은 ChatGPT와 같은 생성 AI 시스템의 부상에 대응하기 위해 개정되었으며, 그 범용 능력은 주요 프레임워크에 맞지 않았다. 이로 인해 광범위한 작업을 수행할 수 있는 기반 모델을 포함하는 범용 AI(GPAI) 모델을 위한 전용 범주가 만들어졌다. GPAI 모델에 대한 투명성 요구사항은 제한적 위험 시스템보다 더 광범위하며, 더 넓은 영향을 반영한다. 공급자는 학습 데이터 요약을 게시하고, 저작권 정책을 채택하며, 다운스트림 사용자와 감독 기관에 기술 문서를 제공해야 한다.
가중치와 설계가 공개적으로 제공되는 오픈소스 모델의 경우 투명성 의무가 축소된다. 공급자는 학습 데이터 요약과 저작권 정책을 게시해야 하지만 일부 문서 요구사항은 면제된다. 클로즈드소스 모델은 모델의 능력과 한계에 대한 상세 정보를 포함한 더 광범위한 투명성 의무를 충족해야 한다. 훈련에 10^25 부동 소수점 연산 이상이 필요한 것으로 정의된 시스템적 위험을 제기하는 고영향 모델은 적대적 테스트와 편향 및 보안 실패에 대한 위험 완화를 포함한 추가 평가를 받아야 한다.
2025년 7월 10일에 게시된 범용 AI 행동 강령은 준수를 위한 실질적인 지침을 제공한다. 투명성, 저작권, 안전 및 보안에 관한 세 가지 주요 장을 설명하며, 공급자가 AI 법 준수를 입증하는 데 도움을 준다. 강령 참여는 자발적이지만, 특히 복잡한 GPAI 시스템의 경우 법의 요구사항을 충족하기 위한 체계적인 접근 방식을 제공한다.
준수 및 집행
투명성 의무는 법의 광범위한 준수 메커니즘을 통해 집행된다. 공급자는 시장에 출시하기 전에 AI 시스템이 관련 요구사항을 충족하도록 보장해야 하며, 준수를 입증하는 문서를 유지해야 한다. 유럽 인공지능 위원회가 조정하는 국가 감독 기관이 감독과 집행을 담당한다. 법에 의해 설립된 위원회는 국가 간 협력을 촉진하고 회원국 전반에 걸쳐 규정의 일관된 적용을 보장한다.
비준수는 일반 데이터 보호 규정(GDPR)과 유사하게 상당한 벌칙을 초래할 수 있다. 벌금은 위반의 심각성과 유형에 따라 회사의 글로벌 연간 매출의 일정 비율까지 도달할 수 있다. 투명성 실패의 경우 벌칙은 일반적으로 고위험 위반보다 낮지만 여전히 상당할 수 있다. 이 법은 또한 시민이 AI 시스템에 대해 불만을 제기하고 권리에 영향을 미치는 고위험 AI의 결정에 대한 설명을 받을 수 있도록 허용하지만, 이는 제한적 위험 시스템에는 적용되지 않는다.
다른 규정과의 관계
투명성 의무는 데이터 보호와 개인정보를 규율하는 GDPR과 같은 다른 EU 규정을 보완한다. AI 법이 제품 안전과 투명성에 초점을 맞추는 반면, GDPR은 개인 데이터에 대한 개인 권리를 다룬다. 함께 이들은 AI 거버넌스를 위한 포괄적인 프레임워크를 만들며, AI 법은 GDPR의 범위를 반영하여 EU 내 사용자가 있는 경우 EU 외부 공급자에게 역외 적용된다. 이러한 역외 범위는 미국이나 아시아에 기반을 둔 글로벌 AI 기업도 EU 사용자에게 서비스를 제공할 때 EU 투명성 규칙을 준수해야 함을 의미한다.
이 법은 또한 추가 투명성 요구사항이 적용될 수 있는 금융 서비스나 의료와 같은 분야별 규정과 상호작용한다. 이러한 경우 AI 법은 기준선을 설정하고 분야별 규칙이 더 엄격한 의무를 부과할 수 있다. 이러한 계층적 접근 방식은 일관된 EU 전역 표준을 유지하면서 투명성이 AI 사용의 특정 위험과 맥락에 맞게 조정되도록 보장한다.
AI 개발에 미치는 영향
투명성 의무는 AI 개발자와 배포자에게 중요한 영향을 미친다. 명확한 AI 공개를 포함하도록 사용자 인터페이스를 신중하게 설계해야 하며, 합성 콘텐츠에 대한 견고한 표시 메커니즘이 필요하다. 대규모 언어 모델 및 기타 생성 AI 시스템의 경우, 이는 워터마킹이나 메타데이터 임베딩과 같은 기술적 솔루션을 포함할 수 있는 AI 생성 텍스트, 이미지 또는 오디오를 식별할 수 있는 기능을 구현하는 것을 의미한다.
이러한 요구사항은 또한 AI 산업에서 투명성 문화를 장려하여 책임성과 신뢰를 촉진한다. AI 상호작용을 더 투명하게 만듦으로써, 이 법은 오용 위험을 줄이고 사용자가 정보에 기반한 결정을 내릴 수 있도록 하는 것을 목표로 한다. 그러나 의무는 특히 문서화와 표시 인프라에 투자해야 할 수 있는 소규모 공급자에게 준수 비용을 부과한다. 법의 단계적 구현은 조항이 6개월에서 36개월에 걸쳐 발효되므로 이해관계자가 적응할 시간을 제공한다.
향후 발전
2025년 현재, 투명성 의무는 EU 전역에서 구현되고 있으며, 유럽 인공지능 위원회가 집행 조화를 위해 노력하고 있다. 2025년 7월에 게시된 범용 AI 행동 강령은 준수를 위한 핵심 도구이며, 그 채택은 GPAI 모델에 대한 투명성이 어떻게 운영되는지 형성할 것이다. 이 법은 또한 시간이 지남에 따라 고위험 애플리케이션 목록을 확장할 수 있도록 허용하며, 이는 특정 시스템에 대한 투명성 요구사항에 영향을 미칠 수 있다.
EU의 접근 방식은 다른 관할권이 유사한 규정을 고려함에 따라 전 세계적으로 주목받고 있다. 특히 투명성 의무는 혁신과 사용자 보호의 균형을 맞추는 모델로 간주된다. AI 기술이 발전함에 따라, 법의 조항은 머신 러닝 기술의 부상이나 딥 러닝의 발전과 같은 새로운 도전에 대응하기 위해 업데이트될 수 있다. 위험 기반 범주와 위임된 법률을 갖춘 프레임워크의 유연성은 이러한 변화를 수용하도록 설계되어 투명성이 EU에서 AI 거버넌스의 초석으로 유지되도록 보장한다.