중국의 딥 합성 규정, 공식 명칭은 "딥 합성 인터넷 정보 서비스 관리 규정"으로, 2023년 1월 10일에 시행되었습니다. 중국 국가인터넷정보판공실(CAC)과 다른 세 부처가 공동으로 발표한 이 규정은 딥페이크 및 합성 미디어를 구체적으로 겨냥한 최초의 국가 차원 법적 체계 중 하나입니다. 이 규정은 중화인민공화국 내에서 텍스트, 이미지, 오디오, 비디오를 포함한 콘텐츠를 생성하거나 변경하기 위해 딥 합성 기술을 사용하는 조직과 개인에게 구속력 있는 의무를 부과합니다.
이 규정은 딥 합성을 기계 학습 및 심층 학습 방법을 사용하여 텍스트, 이미지, 오디오 또는 비디오를 생성하거나 편집하는 기술로 정의하며, 얼굴 바꾸기, 음성 복제, 가상 장면 생성 기법을 포함합니다. 이 규정은 상업적 제공자와 이러한 도구를 사용하는 비상업적 사용자 모두에게 적용되며, 모바일 앱, 웹사이트, 소프트웨어 플랫폼을 포함한 인터넷을 통해 제공되는 서비스를 포괄합니다. 명시된 목적은 국가 안보, 공공 이익, 시민의 합법적 권리를 보호하고 생성형 AI 기술의 건전한 발전을 촉진하는 것입니다.
범위 및 주요 정의
이 규정은 광범위한 합성 미디어를 명시적으로 포괄합니다. 여기에는 딥페이크 비디오, 사실적인 음성 합성, 텍스트-이미지 생성, AI 생성 가상 앵커가 포함됩니다. CAC는 "딥 합성 서비스 제공자"를 이러한 기술을 대중에게 제공하는 모든 실체로 정의하며, 이는 주요 서비스로든 더 큰 플랫폼 내 기능으로든 해당됩니다. 공개 유포를 위해 이러한 서비스를 사용하는 사용자도 라벨링 및 콘텐츠 합법성과 관련된 특정 조항의 적용을 받습니다.
이 규정의 주목할 만한 측면은 역외 적용 범위입니다. 중국 내 사용자에게 서비스를 제공하는 제공자는 해외에 기반을 두더라도 준수해야 합니다. 이 규정은 또한 서비스 제공자가 딥 합성을 사용하는 신제품이나 기능을 출시하기 전에 보안 평가를 수행하고, 2022년 3월에 시행된 기존 알고리즘 권장 규정과 유사한 절차인 알고리즘을 CAC에 등록하도록 요구합니다.
라벨링 및 투명성 요구 사항
핵심 요구 사항 중 하나는 의무적 라벨링입니다. 딥 합성을 사용하여 생성되거나 변경된 콘텐츠로 대중을 오도할 수 있는 모든 콘텐츠는 합성으로 명확히 표시되어야 합니다. 이 규정은 "명시적 라벨"과 "암시적 라벨"을 구분합니다. 명시적 라벨은 워터마크나 텍스트 공지와 같이 사용자에게 보입니다. 암시적 라벨은 파일의 메타데이터나 디지털 서명에 내장되어 기계 판독 가능한 식별을 허용합니다.
사실적인 얼굴 바꾸기나 음성 복제 콘텐츠의 경우, 제공자는 콘텐츠가 AI 생성 또는 편집되었음을 눈에 띄게 공지해야 합니다. 이 규정은 또한 제공자가 라벨을 쉽게 제거하거나 변조할 수 없도록 보장해야 한다고 요구합니다. 또한 합성 콘텐츠가 뉴스 보도에 사용되는 경우, 제공자는 실제 영상과 혼동되지 않도록 합성 특성을 명확히 표시해야 합니다. 이 라벨링 요구 사항은 사용자가 업로드한 콘텐츠에도 적용되며, 플랫폼이 게시 시 이러한 콘텐츠를 감지하고 라벨링할 의무를 부과합니다.
사용자 동의 및 개인 권리
이 규정은 개인 권리 보호에 강한 중점을 둡니다. 제공자는 딥 합성에서 얼굴이나 음성과 같은 생체 정보를 사용하기 전에 개인의 명시적 동의를 얻어야 합니다. 이 동의는 정보에 입각하고 자발적이어야 하며, 사용자는 이를 철회할 권리가 있습니다. 이 규정은 딥 합성을 사용하여 개인의 명예, 프라이버시 또는 기타 합법적 권리를 침해하는 콘텐츠를 생성하거나 배포하는 것을 금지합니다.
또한 제공자는 동의 없는 딥페이크와 같은 위반 사항을 사용자가 신고할 수 있는 메커니즘을 구축해야 합니다. 또한 허가 없이 초상권을 사용하는 콘텐츠의 제거를 요청할 수 있는 방법을 영향을 받은 개인에게 제공해야 합니다. 이 규정은 딥 합성을 사용하여 가짜 뉴스, 명예 훼손 자료 또는 사회 질서를 방해하는 콘텐츠를 생성하는 것을 명시적으로 금지합니다. 이는 2021년 11월에 시행된 개인정보보호법(PIPL)을 포함한 중국의 광범위한 사이버 보안 및 데이터 보호 법률과 일치합니다.
콘텐츠 심의 및 보안 의무
서비스 제공자는 강력한 콘텐츠 심의 시스템을 구현해야 합니다. 테러, 폭력, 음란물 또는 국가 권력 전복을 조장하는 콘텐츠를 포함한 불법 또는 유해 자료가 있는지 모든 합성 콘텐츠를 검토해야 합니다. 이 규정은 제공자가 기술적 수단을 사용하여 합성 콘텐츠를 식별하고 오용을 방지해야 한다고 요구합니다. 여기에는 데이터 보존 법률에 따라 최소 6개월 동안 사용자 활동 및 콘텐츠 생성 로그를 유지하는 것이 포함됩니다.
제공자는 또한 알고리즘이 불법 또는 비윤리적 행동을 강화하지 않도록 보장해야 합니다. 이 규정은 딥 합성 서비스가 정부 관료나 공인을 오도하는 방식으로 사칭하는 콘텐츠 생성을 방지하는 것과 같은 안전 기능을 갖추도록 설계되어야 한다고 요구합니다. 합성 콘텐츠가 여론이나 국가 안보에 영향을 미칠 수 있는 경우, 제공자는 당국과 협력하고 즉시 조치를 취해 해당 콘텐츠를 제거하거나 차단해야 합니다.
알고리즘 등록 및 보안 평가
핵심 준수 메커니즘은 알고리즘을 CAC에 등록해야 하는 요구 사항입니다. 제공자는 목적, 데이터 출처, 잠재적 위험을 포함한 딥 합성 알고리즘에 대한 상세 정보를 제출해야 합니다. 이 등록 절차는 2022년 규정의 권장 알고리즘 절차와 유사합니다. CAC는 등록된 알고리즘의 공개 레지스트리를 유지하며, 등록하지 않으면 처벌을 받을 수 있습니다.
새 서비스나 주요 업데이트를 출시하기 전에 보안 평가가 필요합니다. 이러한 평가는 국가 안보, 사회 안정 및 개인 권리에 대한 잠재적 위험을 평가합니다. 평가는 자격을 갖춘 제3자 조직 또는 내부 팀이 수행해야 하며, 결과는 CAC에 제출되어야 합니다. 이 규정은 또한 제공자가 대규모 딥페이크 캠페인과 같은 보안 사고에 대한 비상 대응 계획을 수립해야 한다고 요구합니다.
집행 및 처벌
규정 위반은 벌금, 서비스 중단, 라이선스 취소를 포함한 행정 처벌로 이어질 수 있습니다. CAC 및 기타 규제 기관은 검사를 수행하고 시정 조치를 요구할 권한이 있습니다. 심각한 경우, 사기, 명예 훼손 또는 허위 정보 유포와 관련된 범죄에 대해 중국 형법에 따른 형사 책임이 적용될 수 있습니다.
규정이 시행된 이후 CAC는 적극적으로 집행해 왔습니다. 2023년에는 여러 플랫폼이 합성 콘텐츠를 적절히 라벨링하지 않은 것으로 공개 비판을 받았습니다. CAC는 또한 라이브 스트리밍의 AI 생성 가상 앵커와 같은 특정 사용 사례에 대한 지침을 발표하여 명확히 식별되도록 요구했습니다. 집행 접근 방식은 단일 포괄 법률보다는 부문별 규칙을 통해 인공지능을 규제하는 중국의 광범위한 추세를 반영합니다.
산업 및 글로벌 맥락에 미치는 영향
이 규정은 국내 및 국제 기업 모두에 상당한 영향을 미쳤습니다. 알리바바 클라우드를 포함한 주요 중국 기술 기업 및 기타 클라우드 제공자는 자동 워터마킹 및 콘텐츠 필터링과 같은 준수 기능을 AI 서비스에 통합했습니다. 중국 사용자에게 딥 합성 도구를 제공하는 국제 기업도 지리적 차단 또는 현지 준수 조치 추가와 같은 방식으로 관행을 조정했습니다.
글로벌적으로 중국의 접근 방식은 영향력이 있었습니다. 2024년 8월에 발효된 유럽연합의 AI 법은 딥페이크에 대한 유사한 투명성 요구 사항을 포함하지만, 집행 메커니즘은 다릅니다. 미국은 주 차원 법률과 연방 지침으로 더 분산된 접근 방식을 취했습니다. 중국의 규정은 포괄적인 범위와 주요 경제국 중에서 독특한 알고리즘 등록 통합으로 주목할 만합니다.
향후 발전 및 과제
2025년 현재 CAC는 대규모 언어 모델 기반 콘텐츠 생성 및 실시간 딥페이크 비디오와 같은 신흥 기술을 해결하기 위해 규정을 업데이트할 것이라고 시사했습니다. 생성형 AI의 빠른 진화는 감지 방법이 생성 능력을 따라잡지 못함에 따라 집행에 과제를 제기합니다. 이 규정은 또한 라벨링 요구 사항이 잘못된 정보를 방지하기에 불충분하다고 주장하는 일부 학자와 규칙이 지나치게 제한적이고 혁신을 방해한다고 주장하는 다른 학자들의 비판에 직면해 있습니다.
이러한 과제에도 불구하고 이 규정은 중국에서 딥 합성의 책임 있는 사용을 위한 기준선을 확립했습니다. 이는 워터마킹 및 콘텐츠 출처 추적을 위한 기술 표준 개발을 촉진하고 감지 알고리즘 연구를 장려했습니다. 규정의 장기적 효과는 지속적인 업데이트와 규제 기관이 기술 변화에 보조를 맞출 수 있는 능력에 달려 있습니다.
다른 관할권과의 비교 분석
딥페이크를 투명성 위험으로 분류하는 EU의 AI 법과 비교할 때, 중국의 규정은 특정 라벨링 형식과 알고리즘 등록을 요구하는 더 규범적입니다. EU는 일반적인 투명성 의무와 위험 관리에 의존하는 반면, 중국은 상세한 기술 준수를 요구합니다. 미국에서는 연방 법률이 없어 2020년에 시행된 캘리포니아의 정치적 딥페이크 법률과 같은 주 차원 규정의 파편화된 체계가 생겼습니다. 중국의 중앙 집중식 접근 방식은 일관된 집행을 허용하지만 과도한 개입과 검열에 대한 우려를 제기합니다.
이 규정은 또한 제공자가 사용자 데이터를 중국 내에 저장해야 하는 중국의 데이터 현지화 요구 사항과 상호 작용합니다. 이는 글로벌로 운영되는 국제 기업에 영향을 미칩니다. 알고리즘 등록 요구 사항은 정보 흐름을 통제하는 데 사용된 2021년 권장 알고리즘 규칙과 같은 다른 부문의 유사한 조치와 비교되었습니다. 전반적으로 중국의 딥 합성 규정은 합성 미디어를 규제하는 선구적인 노력을 대표하며, 지지자와 비판자 모두 그 구현을 면밀히 주시하고 있습니다.