中国は、世界で最も広範かつ詳細な人工知能（AI）に関する規制枠組みの一つを構築してきた。これらの規制は、国家インターネット情報弁公室（CAC）、工業情報化部、国務院などの様々な国家機関によって発行され、国家安全保障、社会安定、公共秩序に関する懸念に対処しつつ、人工知能技術の急速な展開を管理することを目的としている。この枠組みは、コンテンツ管理、アルゴリズムの透明性、AIサービス提供者の法的責任に焦点を当てている点で顕著であり、他の法域で見られる市場主導型や革新優先のアプローチとは一線を画している。
規制環境は、特定の技術的発展、特に生成AIシステムやディープフェイク技術の台頭に応じて進化してきた。2022年と2023年に、中国はアルゴリズム推薦、深層合成（ディープフェイク）、生成AIサービスに関する的を絞った規則を導入した。これらの措置は、AIガバナンスを既存のサイバーセキュリティ法やデータ保護法に統合する広範な取り組みの一部であり、AIアプリケーションの種類と社会への潜在的リスクに基づいて異なる要件を適用する多層的なシステムを構築している。
歴史的背景と法的根拠
中国のAI規制は、2017年のサイバーセキュリティ法や2021年のデータ安全法などの初期の法律に基づいて構築されている。これらの法律は、データ処理、越境データ移転、重要情報インフラの保護に関する原則を確立した。2021年11月に施行された個人情報保護法（PIPL）は、同意、データ最小化、個人の権利に関する厳格な要件を追加し、個人データを処理するAIシステムに直接影響を与えている。
最初のAI固有の規制措置は、2022年3月1日に施行された「インターネット情報サービスアルゴリズム推薦管理規定」であった。この規制は、ニュース推薦、検索結果、コンテンツフィードに使用されるアルゴリズムを対象としていた。サービス提供者は、アルゴリズムをCACに登録し、セキュリティ評価を実施し、アルゴリズムの出力が社会主義の中核的価値観に違反したり、虚偽情報を拡散したりしないことを保証することが義務付けられた。また、利用者にパーソナライズされた推薦機能を無効にするオプションを提供することも義務付けられた。
深層合成規制（2022年）
2022年12月、CACは2023年1月10日に施行された「インターネット情報サービスにおける深層合成の管理に関する規定」を発表した。これらの規則は、深層学習やニューラルネットワークの手法を用いて画像、音声、動画を生成または改変するディープフェイク技術に特に対処している。規制では、視聴者を誤解させる可能性のあるAI生成または編集されたコンテンツは、合成であると明確にラベル付けされることが要求される。サービス提供者は、編集に深層合成を使用する前に利用者の同意を得る必要があり、他人を誹謗中傷するコンテンツ、噂を広めるコンテンツ、公共秩序に違反するコンテンツを作成することは禁止されている。
深層合成提供者はまた、利用者の実名認証を実施し、コンテンツ生成活動のログを少なくとも3か月間保持し、詐欺や政治的操作への技術の悪用を防ぐメカニズムを確立する必要がある。これらの規則は、国内企業と中国国内でサービスを提供する外国企業の両方に適用され、国際的なAI開発者にコンプライアンス負担を課している。
生成AIに関する暫定措置（2023年）
これまでのところ最も重要な規制は、2023年8月15日に施行された「生成的人工知能サービス管理暫定措置」である。これらの措置は、CAC、国家発展改革委員会、科学技術省などの機関によって共同発行された。これらは、中国国内で一般向けにコンテンツを提供する生成AIを使用するサービスに適用され、大規模言語モデルベースのチャットボット、画像生成ツール、その他のツールを含む。
主な条項は以下の通りである：
- コンテンツ要件： 生成されたコンテンツは、社会主義の中核的価値観を順守し、国家権力の転覆、テロリズム、民族憎悪、ポルノへの扇動を避けなければならない。提供者は、トレーニングデータが合法であり、知的財産権を侵害しないことを保証する必要がある。
- アルゴリズムの届出： 提供者は、一般向けにサービスを提供する前に、アルゴリズムとトレーニングデータをCACに届け出る必要がある。これには、セキュリティ評価とモデルアーキテクチャの詳細の提出が含まれる。
- 利用者へのラベル付け： AI生成コンテンツは、特に人間が作成したコンテンツと誤認される可能性がある場合、合成であると明確にマークされなければならない。
- 個人データ保護： トレーニングデータには、同意なしに個人情報を含めてはならず、提供者はPIPLに従って利用者データを保護する必要がある。
- 責任と説明責任： 提供者は、利用者が明示的に要求していない場合でも、モデルが生成するコンテンツに対して法的責任を負う。有害な出力をフィルタリングし修正するメカニズムを実装する必要がある。
暫定措置はまた、生成AIサービスが国家安全保障や公共秩序を脅かす可能性のあるコンテンツの生成を防ぐように設計されることを要求している。これにより、中国のAI企業は大幅な自己検閲を行うようになり、多くの場合、コンプライアンスを確保するために人間のレビュー担当者やコンテンツフィルターを採用している。
範囲と執行
中国のAI規制は、中国国内の利用者にAIサービスを提供するすべての事業体に適用され、企業の本社所在地に関係なく適用される。この域外適用は、中国の規則に準拠するか、中国からのサービスへのアクセスをブロックする必要があるグローバルなAI開発者に影響を与える。執行はCACによって行われ、警告、罰金、サービスの停止、または非準拠の場合のライセンス取り消しを発行できる。
罰則は違反によって異なる。軽微な違反の場合、規制当局は是正を命じ、最大10万元（約14,000ドル）の罰金を科すことができる。国家安全保障に関わるようなより深刻な違反は、既存の法律に基づく刑事責任につながる可能性がある。CACはまた、定期的な監査を実施し、AIサービスのリアルタイム監視を要求することができる。
AI開発と産業への影響
これらの規制は、特に生成AIにおいて、中国のAI開発を形成してきた。アリババ、百度、テンセントなどの中国の主要テクノロジー企業は、アリババの通義千問や百度の文心一言など、自社の大規模言語モデルを立ち上げている。これらのモデルは、暫定措置に準拠するために組み込みのコンテンツモデレーションを備えて設計されている。アルゴリズムの届出要件は、製品の立ち上げを遅らせる可能性のある官僚的なプロセスを生み出しているが、企業にある程度の規制上の確実性も提供している。
国際企業にとって、これらの規制は参入障壁となっている。OpenAIやAnthropicなどの企業は、コンプライアンス負担と法的責任のリスクのため、中国でサービスを提供していない。一部の外国企業は、規制要件を満たすために中国企業と提携したり、モデルのローカライズ版を開発したりすることを選択している。
コンテンツ管理への焦点は、研究開発にも影響を与えている。中国のAI研究者は、西側の機関でのよりオープンエンドなアプローチとは異なることが多い、政府のガイドラインに沿った安全性と整合性を優先することが多い。これにより、中国で商業的に viable なAIアプリケーションの種類と、他の地域でのそれとの間に乖離が生じている。
他の法域との比較
中国のアプローチは、リスクベースの分類と基本権を強調する欧州連合のAI法や、部門別および自主的なガイドラインに依存する米国のアプローチとは対照的である。EUが透明性と人間の監視に焦点を当てる一方で、中国は国家の安全とコンテンツモデレーションに重点を置いている。米国は、2025年時点で包括的な連邦AI法がないまま、主に業界の自主規制と大統領令に依存してきた。
中国の規制はまた、他の多くの国よりも規範的である。アルゴリズムの届出とセキュリティ評価の要件は独自であり、AI生成コンテンツが国家イデオロギーに沿わなければならないという明示的な義務も同様である。これにより、中国はAIを管理しようとする他の権威主義政府のモデルとなっているが、規則が表現の自由と革新を抑圧すると主張する人権団体や国際的なオブザーバーからの批判も招いている。
将来の方向性と課題
2025年時点で、中国のAI規制枠組みは進化を続けている。生成AIに関する暫定措置は一時的なものであり、恒久法に置き換えられることが期待されている。国務院は、既存の規制を統合し、自動運転車、医療、軍事用途におけるAIなどの新たな問題に対処する「人工知能法」に取り組んでいる。この法律の草案はコメント用に回覧されているが、最終的なテキストはまだ公開されていない。
課題は残っており、オープンソースモデルに対するコンテンツ規則の執行の難しさや、技術変化の急速なペースが含まれる。テキスト、画像、動画を組み合わせたマルチモーダルAIの台頭は、新しい規制を必要とする可能性がある。さらに、AI開発のグローバルな性質は、中国の規則が国際基準と衝突し、多国籍企業に摩擦を生み出す可能性がある。
これらの課題にもかかわらず、中国の規制アプローチは、企業の不確実性を減らす明確なガイドラインを提供するとして、一部から賞賛されている。安全保障と安定性への強調は、技術的自立と社会的管理という政府の広範な目標と一致している。AIが進歩し続けるにつれて、中国の規制は、この強力なテクノロジーをどのように統治するかに取り組む他の国々の参考点となる可能性が高い。