『生成式人工智能服务管理暂行办法』（中国語: 生成式人工智能服务管理暂行办法、拼音: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ）は、中国が国内の公衆向け生成人工知能を規制するために導入した一連の規則である。国家インターネット情報弁公室が他の6つの国家規制機関とともに発布し、2023年8月15日に施行された。これは生成AIに関する最初の包括的な国家枠組みの一つであり、国家安全保障、社会安定、個人の権利などのリスクに対処しつつ、革新を促進することを目的としている。この規則は国内の公衆に提供されるサービスに適用され、企業内部や研究用途は除外され、「包摂的慎重さ」の原則と分類された監督を強調している。
この措置は、国家インターネット情報弁公室、国家発展改革委員会、教育部、科学技術部、工業情報化部、公安部、国家ラジオテレビ総局によって共同で発布された。全24条から成り、総則、技術発展とガバナンス、サービス仕様、監督と法的責任、附則の5つの章に分かれている。
背景と目的
2020年代初頭の大規模言語モデルと生成AIシステムの台頭により、世界各国の政府は新たな規制アプローチを検討するようになった。中国の措置は、技術進歩の促進と国家安全保障および公共の利益の保護のバランスを取るために設計された。明示された目的には、生成AIの健全な発展と規制された利用の奨励、社会の利益の保護、市民の法的権利の擁護が含まれる。規制哲学は、発展と安全の同等の重視、法治に沿った革新の促進、分類された包摂的な監督アプローチの採用を強調している。
適用範囲と除外事項
第2条は措置の適用範囲を定義し、中華人民共和国国内の公衆に提供される生成AIサービスに適用するとしている。企業、研究機関、その他の組織が内部で使用し、国内の公衆にサービスを提供しないものは明示的に除外される。この除外は、消費者向けアプリケーションに規制監督を集中させつつ、内部の革新を阻害しないことを目的としている。この措置は、中国の公衆に提供されない限り、海外で開発されたサービスには適用されない。
原則とコンテンツ要件
第3条は、発展と安全の同時追求、革新の奨励、法治の遵守などの基本原則を定めている。第4条は生成AIサービスにコンテンツ要件を課しており、関連法規を遵守し、社会主義の中核的価値観を含む社会道徳を尊重しなければならないとしている。プロバイダーは、生成されたコンテンツが社会主義制度の転覆を促進したり、国家安全保障を害したり、社会の安定を損なったり、差別、テロリズム、過激主義、暴力、わいせつ、その他法律で禁止された虚偽および有害な情報を含んではならないことを確保しなければならない。また、モデルが差別やアルゴリズムバイアスを回避するように設計・訓練され、知的財産権とビジネス倫理を尊重し、身体的・精神的健康を危険にさらさないことを要求している。効果的な措置を通じてサービスの透明性と正確性を向上させなければならない。
技術発展とガバナンス
第5条と第6条は、産業全体での生成AIの革新を奨励し、協力、データおよびアプリケーション開発、中核技術の自主革新、インフラ開発、データリソースプラットフォームを支援している。国際協力、計算リソースの共有、高品質な公共訓練データの拡大、安全なチップとリソースの採用を促進している。第7条は、プロバイダーが訓練データの高品質性、正確性、多様性、および知的財産権を侵害しない合法的な出所を確保することを義務付けている。個人情報が使用される場合、ユーザーの同意が必要である。第8条は、品質評価、サンプリング検証、人員訓練、ラベリング作業の監督を含む明確なデータラベリング規則を確立することをプロバイダーに要求している。
サービス仕様
第9条は、プロバイダーをオンラインコンテンツの生産者および個人データの処理者として法的に扱い、ユーザーとの間で権利と義務を定義するサービス契約を締結することを要求している。第10条は未成年者の保護に対処し、過度な使用を防ぐための効果的な措置を義務付け、プロバイダーが適切な使用法を明確にすることを要求している。第11条は、プロバイダーにユーザーのプライバシー保護、データ収集と保持の最小化、ユーザー情報の違法な共有の回避を義務付けている。プロバイダーは、個人データの確認、複製、修正、削除のユーザー要求を受け入れなければならない。第12条は、合成された画像、動画、その他の生成コンテンツのラベリングを義務付け、ユーザーに知らせることを要求している。第13条は、通常の使用のための安定かつ継続的なサービスを要求している。第14条は、プロバイダーに違法コンテンツや誤用への迅速な対応を義務付け、生成の停止、モデルの再訓練、ユーザーへの警告、当局への報告を含む。第15条は、公衆の苦情のための苦情および報告メカニズムを義務付けている。
監督、検査、および責任
第16条から第21条は監督枠組みを概説している。第16条は、サイバーセキュリティ、技術、産業、教育、公安、その他の関連政府機関に監督役割を割り当てている。第17条は、世論に影響を与えるサービスに対するセキュリティ評価とアルゴリズム届出手続きを要求している。第18条は、ユーザーが非準拠サービスについて当局に苦情を申し立てることを許可している。第19条は、当局がプロバイダーを検査することを許可し、プロバイダーは協力し透明性を提供しなければならない。第20条は、措置に違反する外国サービスに対処し、政府が行動を取ることを許可している。第21条は、違反者を処罰できる当局を定義し、犯罪は法律に従って調査される。
主要用語と施行日
第22条は、生成AI、サービスプロバイダー、サービスユーザーなどの主要用語を定義している。第23条は、法律で義務付けられている場合、プロバイダーが関連ライセンスを取得することを要求している。第24条は、2023年8月15日の施行日を定めている。この措置は、人工知能を規制しようとする他の法域のモデルと見なされており、革新と社会的保護のバランスを取っている。