『生成式人工智能服务管理暂行办法』（中国語: 生成式人工智能服务管理暂行办法、拼音: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ）は、中国が国内の公衆向け生成人工知能を規制するために導入した一連の規則である。これらの措置は2023年8月15日に施行され、中国国民と交流する生成AIシステムの開発、展開、監督に関する法的枠組みを確立した。この規則は、国家インターネット情報弁公室と、国家発展改革委員会、教育部、科学技術部、工業情報化部、公安部、国家ラジオテレビ総局の6つの国家規制機関によって共同で発行された。
これらの措置は、大規模言語モデルや他の形態の生成AIを含む生成AI技術を特に標的とした、最初の包括的な国家規制の試みの1つである。これらは、技術革新の促進と国家安全保障、社会の安定、個人の権利の保護とのバランスを取ることを目指している。この枠組みは国内の公衆に提供されるサービスに適用される一方、公衆に到達しない社内の企業・研究利用は免除される。
適用範囲と一般原則
措置の最初のセクションは、基礎となる適用範囲と指針となる原則を確立する。第1条は、国家安全保障、社会の公共的利益、および市民と組織の法的権利を保護しながら、生成AIの健全な発展と規制された利用を促進する意図を述べている。第2条は、適用範囲を中華人民共和国国内の公衆向け生成AIサービスに定義し、国内の公衆にサービスを提供しない企業、研究機関、その他の組織による内部サービスを明示的に免除する。
第3条は、主要な規制原則を定める：発展と安全の同等の重視、法治に沿った革新の促進、および生成AIサービスの分類監督を伴う包摂的かつ慎重なアプローチの採用。発展と安全へのこの二重の焦点は、中国の技術ガバナンスにおけるより広範な政策アプローチを反映している。
第4条は、実質的なコンテンツ要件を課す。生成AIサービスは、関連法規を遵守し、社会道徳を尊重し、社会主義の中核的価値観に沿わなければならない。措置は、社会主義体制の転覆を促進するコンテンツ、国家安全保障を害するコンテンツ、または社会の安定を損なうコンテンツを禁止する。また、差別、テロリズム、過激主義、暴力、わいせつ、または法律で禁止されている虚偽および有害な情報を促進するコンテンツも禁止する。モデルは、差別やアルゴリズム的バイアスを回避するように設計・訓練されなければならず、サービスは知的財産権とビジネス倫理を尊重しなければならない。プロバイダーは、他者の権利を保護し、身体的・精神的健康を危険にさらさないこと、およびサービスの透明性と正確性を向上させるための効果的な措置を講じることが義務付けられている。
技術開発とガバナンス
2番目のセクションは、基盤技術のガバナンス要件を確立しながら革新を奨励することに焦点を当てている。第5条は、産業全体での生成AIの革新的な応用を奨励し、肯定的で健康的で高品質なコンテンツを創造し、AI革新、データ、アプリケーション開発に関する協力を支援する。第6条は、中核AI技術、インフラ開発、データリソースプラットフォームにおける独自の革新を促進し、国際協力、計算リソースの協調的共有、高品質な公共トレーニングデータソースの拡大、および安全なチップとリソースの採用を奨励する。
第7条は、プロバイダーがトレーニングデータが高品質で、正確で、多様で、知的財産権を侵害せず合法的に調達されることを確保するための効果的な措置を講じることを義務付ける。トレーニングで個人情報が使用される場合、プロバイダーはユーザーの同意を得なければならない。この条項は、機械学習システムの開発におけるデータの出所とプライバシーに関する懸念に直接対応する。
第8条は、プロバイダーが措置に沿って明確で具体的かつ実行可能なデータラベリング規則を策定することを要求する。これは、品質評価、サンプリング検証、人員トレーニング、およびラベリング作業の監督を義務付け、信頼性の高いAIモデルのトレーニングにおけるデータ品質の重要性を認識している。
サービス仕様
3番目のセクションは、プロバイダーが公衆にサービスを提供する際の義務を詳述する。第9条は、プロバイダーをオンラインコンテンツの生産者および個人データの処理者として法的に確立し、権利と義務を定義するユーザーとのサービス契約の締結を要求する。第10条は、未成年者による過度の使用を防ぐための効果的な措置を講じることを義務付け、プロバイダーが適切な使用を明確にし、ユーザーが生成AIを理解するのを支援することを要求する。
第11条は、プロバイダーにユーザーのプライバシーを保護し、個人情報の収集と保持を最小限に抑え、ユーザー情報を他者に違法に提供することを回避することを義務付ける。プロバイダーは、ユーザーの個人情報のレビュー、コピー、変更、削除の要求を受け入れなければならず、より広範なデータ保護原則に沿っている。第12条は、合成された画像、ビデオ、その他の生成コンテンツのラベリングを要求し、ディープフェイクと誤情報に関する懸念に対応する。
第13条は、ユーザーによる通常の使用のための安定した継続的なサービスを要求する。第14条は、サービスが違法コンテンツを生成するか、違法活動に使用される状況にプロバイダーが迅速に対処することを義務付け、生成の停止、モデルの再トレーニング、ユーザーへの警告、関連当局への報告を含む可能性がある。第15条は、公の苦情のための苦情および報告メカニズムを義務付け、タイムリーな処理とフィードバックを提供する。
監督と法的責任
4番目のセクションは、監督枠組みと法的結果を確立する。第16条は、サイバーセキュリティ、技術、産業、教育、公安、およびその他の関連政府機関に規制監督の役割を与える。第17条は、世論に影響を与えるサービスに対するセキュリティ評価とアルゴリズム登録手続きを要求し、展開前レビューと継続的登録の二重メカニズムを作成する。
第18条は、ユーザーが非準拠サービスについて当局に苦情を申し立てることを許可する。第19条は、当局によるプロバイダーの検査を可能にし、協力と透明性を要求する。第20条は、政府が措置に違反する外国サービスに対処することを可能にし、中国で事業を展開する国際プロバイダーに規制の範囲を拡大する。第21条は、規定に違反するプロバイダーを処罰できる関連当局を定義し、犯罪は法律に従って調査される。
補足規定
5番目のセクションには、定義と実施の詳細が含まれる。第22条は、生成AI、サービスプロバイダー、サービスユーザーなどの主要な用語を定義する。第23条は、法律で要求される場合にサービスを提供するための関連ライセンスの取得を要求する。第24条は、これらの措置が2023年8月15日に施行されることを確立する。
これらの措置は、大規模言語モデルやトランスフォーマーアーキテクチャに基づくものを含む、幅広い生成AI技術に適用される。これらは、中国の国内企業と中国でサービスを提供する外国企業の両方に影響を与え、コンテンツ基準、データガバナンス、セキュリティ評価手続きの遵守を要求する。
実施と影響
これらの措置の実施は、AI産業に重大な影響を与える。プロバイダーは、世論に影響を与える可能性のあるサービスを開始する前にセキュリティ評価を実施し、アルゴリズムを当局に登録しなければならない。データラベリング規則と品質評価の要件は、トレーニングデータセットの構築と検証方法に影響を与える。
これらの措置はまた、生成システムにおける深層学習技術とニューラルネットワークの使用に対処する。規制は特定の技術的アプローチを義務付けるものではないが、モデルがアルゴリズム的バイアスと差別を回避することを要求し、モデル設計とトレーニング実践に影響を与える。
国際AI企業にとって、これらの措置は中国の公衆にサービスを提供する際のコンプライアンス義務を生み出す。これには、コンテンツモデレーションシステムの適応、個人データ使用のためのユーザー同意メカニズムの実装、政府検査への協力が含まれる。外国サービスに関する条項は、違反に対して域外執行が可能であることを示している。
規制アプローチは、中国における包括的なAIガバナンスへのより広範な傾向を反映している。これらの措置は、サイバーセキュリティ、データ保護、アルゴリズム推薦システムに関する他の規制を補完し、層状の規制環境を作り出している。発展と安全の両方への強調は、技術的競争力を維持しながら潜在的なリスクを管理する継続的な努力を示唆している。
施行日現在、これらの措置は、生成AI技術が進化するにつれて更新される可能性のある基本枠組みを表している。分類監督の要件は、異なる種類のサービスが、世論と社会の安定への潜在的な影響に応じて異なるレベルの審査を受ける可能性があることを示唆している。また、措置はAI革新における国際協力を奨励し、規制上の制約にもかかわらずグローバルな協力への開放性を示している。
これらの措置の実際の実施は引き続き発展しており、当局はガイダンスを発行し評価を実施している。中国のAI研究開発への影響には、データ品質、ラベリング慣行、コンテンツ安全対策への注意の高まりが含まれる。また、これらの措置は他の法域でのAIガバナンスに関する議論に影響を与え、生成AI技術の規制方法に関するグローバルな対話に貢献している。