中国のディープ合成規制、正式名称「深度合成インターネット情報サービス管理規定」は、2023年1月10日に施行された。国家インターネット情報弁公室（CAC）と他の3つの省庁によって発布されたこれらの規則は、ディープフェイクおよび合成メディアを特に対象とした最初の国家レベルの法的枠組みの一つである。これらは、中華人民共和国国内でテキスト、画像、音声、動画を含むコンテンツを生成または改変するためにディープ合成技術を使用する組織および個人に拘束力のある義務を課す。
この規制は、ディープ合成を、機械学習および深層学習の手法を用いてテキスト、画像、音声、または動画を生成または編集する技術と定義し、顔交換、音声クローン、仮想シーン作成の技術を含む。規則は、商業プロバイダーと、そのようなツールを使用する非商業ユーザーの両方に適用され、モバイルアプリ、ウェブサイト、ソフトウェアプラットフォームを含むインターネット上で提供されるサービスを対象とする。明示された目的は、国家安全保障、公共の利益、および市民の法的権利を保護しつつ、生成AI技術の健全な発展を促進することである。
適用範囲と主要な定義
規制は、広範な合成メディアを明示的に対象としている。これには、ディープフェイク動画、現実的な音声合成、テキストから画像への生成、AI生成の仮想アナウンサーが含まれる。CACは「ディープ合成サービスプロバイダー」を、これらの技術を主要なサービスとして、またはより大きなプラットフォーム内の機能として一般に提供するあらゆる事業体と定義する。公衆への普及のためにそのようなサービスを使用するユーザーも、特にラベリングとコンテンツの合法性に関する特定の条項の対象となる。
規則の注目すべき側面は、その域外適用範囲である。中国国内のユーザーにサービスを提供するプロバイダーは、海外に拠点を置く場合でも、遵守が期待される。規制はまた、サービスプロバイダーがディープ合成を使用する新製品または機能を開始する前にセキュリティ評価を実施し、2022年3月に施行された既存のアルゴリズム推薦規制と同様のプロセスである、アルゴリズムをCACに届け出ることを要求する。
ラベリングと透明性の要件
中心的な要件の一つは、必須のラベリングである。ディープ合成を使用して生成または改変され、公衆を誤解させる可能性のあるあらゆるコンテンツは、合成であると明確にマークされなければならない。規制は「明示的ラベル」と「暗黙的ラベル」を区別する。明示的ラベルは、透かしやテキスト通知など、ユーザーに表示される。暗黙的ラベルは、ファイルのメタデータまたはデジタル署名に埋め込まれ、機械可読な識別を可能にする。
現実的な顔交換または音声クローンコンテンツについては、プロバイダーはコンテンツがAI生成または編集されたものであるという目立つ通知を追加しなければならない。規則はまた、プロバイダーがラベルが簡単に削除または改ざんされないことを保証することを要求する。さらに、合成コンテンツがニュース報道で使用される場合、プロバイダーは実際の映像と混同されないように合成の性質を明確に示さなければならない。このラベリング要件はユーザーがアップロードしたコンテンツにも及び、プラットフォームは公開時にそのようなコンテンツを検出してラベル付けする義務を負う。
ユーザー同意と個人の権利
規制は個人の権利の保護に強い重点を置いている。プロバイダーは、ディープ合成で顔や声などの生体情報を使用する前に、個人から明示的な同意を得なければならない。この同意は情報に基づき自発的でなければならず、ユーザーはそれを撤回する権利を有する。規則は、個人の評判、プライバシー、またはその他の法的権利を侵害するコンテンツを作成または配布するためのディープ合成の使用を禁止する。
さらに、プロバイダーは、非同意のディープフェイクなどの違反をユーザーが報告するためのメカニズムを確立することが要求される。また、許可なく自分の肖像を使用するコンテンツの削除を要求する影響を受ける個人に方法を提供しなければならない。規制は、フェイクニュース、名誉毀損資料、または社会秩序を混乱させるコンテンツを生成するためのディープ合成の使用を明示的に禁止している。これは、2021年11月に施行された個人情報保護法（PIPL）を含む中国のより広範なサイバーセキュリティおよびデータ保護法と一致する。
コンテンツモデレーションとセキュリティ義務
サービスプロバイダーは、堅牢なコンテンツモデレーションシステムを実装しなければならない。テロリズム、暴力、ポルノ、国家権力の転覆を促進するコンテンツを含む、違法または有害な資料についてすべての合成コンテンツを審査することが要求される。規制は、プロバイダーが技術的手段を使用して合成コンテンツを識別し、その悪用を防ぐことを義務付けている。これには、データ保持法に従い、ユーザー活動とコンテンツ生成のログを少なくとも6か月間維持することが含まれる。
プロバイダーはまた、アルゴリズムが違法または非倫理的な行動を強化しないことを保証しなければならない。規則は、ディープ合成サービスが、政府関係者や公人を誤解を招く方法で模倣するコンテンツの生成を防ぐなどの安全機能を備えて設計されることを要求する。合成コンテンツが世論や国家安全保障に影響を与える可能性がある場合、プロバイダーは当局と協力し、そのようなコンテンツを削除またはブロックするための即時措置を講じることが期待される。
アルゴリズム届出とセキュリティ評価
主要なコンプライアンスメカニズムは、CACへのアルゴリズムの届出要件である。プロバイダーは、ディープ合成アルゴリズムに関する詳細情報（目的、データソース、潜在的なリスクを含む）を提出しなければならない。この届出プロセスは、2022年の規制下での推薦アルゴリズムのものと類似している。CACは届出済みアルゴリズムの公開レジストリを維持しており、届出の失敗は罰則につながる可能性がある。
セキュリティ評価は、新サービスまたは主要な更新を開始する前に必要とされる。これらの評価は、国家安全保障、社会の安定、および個人の権利への潜在的なリスクを評価する。評価は、資格のある第三者組織または内部チームによって実施されなければならず、結果はCACに提出されなければならない。規制はまた、大規模なディープフェイクキャンペーンなどのセキュリティインシデントに対する緊急対応計画をプロバイダーが確立することを要求する。
執行と罰則
規制の違反は、罰金、サービスの停止、ライセンスの取り消しなどの行政罰につながる可能性がある。CACおよび他の規制当局は、検査を実施し、是正措置を要求する権限を有する。重大な場合には、特に詐欺、名誉毀損、または虚偽情報の拡散に関連する犯罪について、中国の刑法に基づく刑事責任が適用される可能性がある。
規制が施行されて以来、CACは積極的に執行している。2023年には、いくつかのプラットフォームが合成コンテンツのラベリング不足で公に批判された。CACはまた、ライブストリーミングにおけるAI生成の仮想アナウンサーなど、特定の使用事例に関するガイダンスを発行し、明確に識別されることを要求している。執行アプローチは、単一の包括的な法律ではなくセクター固有の規則を通じて人工知能を規制するという中国のより広範な傾向を反映している。
産業への影響と国際的な文脈
規制は、国内および国際企業の両方に大きな影響を与えてきた。Alibaba Cloudを含む主要な中国のテック企業および他のクラウドプロバイダーは、自動透かしやコンテンツフィルタリングなどのコンプライアンス機能をAIサービスに統合している。中国のユーザーにディープ合成ツールを提供する国際企業も、多くの場合、ジオブロッキングやローカルコンプライアンス対策の追加によって、その慣行を調整している。
世界的に、中国のアプローチは影響力を持っている。2024年8月に発効した欧州連合のAI法は、ディープフェイクに対する同様の透明性要件を含むが、執行メカニズムは異なる。米国は、州レベルの法律と連邦ガイドラインを用いて、より断片的なアプローチを取っている。中国の規制は、その包括的な範囲と、主要経済国の中で独自のアルゴリズム届出の統合で注目に値する。
将来の展開と課題
2025年現在、CACは、大規模言語モデルベースのコンテンツ生成やリアルタイムのディープフェイク動画などの新興技術に対処するために規制を更新することを示唆している。生成AIの急速な進化は、検出方法が生成能力に遅れを取るため、執行に課題を提起している。規制はまた、ラベリング要件が誤情報を防ぐには不十分であると主張する一部の学者から批判に直面している一方、他の学者は規則が過度に制限的で革新を妨げると主張している。
これらの課題にもかかわらず、規制は中国におけるディープ合成の責任ある使用のための基準を確立している。これらは、透かしとコンテンツの出所に関する技術標準の開発を促進し、検出アルゴリズムの研究を奨励している。規制の長期的な有効性は、継続的な更新と、規制当局が技術変化に追いつく能力に依存するだろう。
他の法域との比較分析
ディープフェイクを透明性リスクとして分類するEUのAI法と比較して、中国の規制はより規範的であり、特定のラベル形式とアルゴリズム届出を要求する。EUは一般的な透明性義務とリスク管理に依存している一方、中国は詳細な技術的コンプライアンスを義務付けている。米国では、連邦法の欠如が、2020年に施行されたカリフォルニア州の政治的ディープフェイクに関する法律など、州規制のパッチワークにつながっている。中国の中央集権的アプローチは一貫した執行を可能にするが、過剰な介入と検閲に関する懸念を提起する。
規制はまた、プロバイダーがユーザーデータを中国国内に保存しなければならないため、中国のデータローカライゼーション要件と相互作用する。これは、グローバルに運営する国際企業に影響を与える。アルゴリズム届出の要件は、情報フローを制御するために使用されてきた2021年の推薦アルゴリズムに関する規則など、他のセクターの同様の措置と比較されている。全体として、中国のディープ合成規制は、合成メディアを統治する先駆的な取り組みを表しており、支持者と批評家の両方がその実施を注視している。