中国深度合成规定，正式名称为《互联网信息服务深度合成管理规定》，于2023年1月10日生效。该规定由国家互联网信息办公室（网信办）会同其他三个部委发布，是首批专门针对深度伪造和合成媒体的国家级法律框架之一。它们对在中华人民共和国境内使用深度合成技术生成或修改内容（包括文本、图像、音频和视频）的组织和个人施加了具有约束力的义务。
该规定将深度合成定义为利用机器学习和深度学习方法生成或编辑文本、图像、音频或视频的技术，包括换脸、语音克隆和虚拟场景创建等技术。这些规则既适用于商业提供者，也适用于使用此类工具的非商业用户，涵盖通过互联网提供的服务，包括移动应用程序、网站和软件平台。其声明目的是维护国家安全、公共利益和公民合法权益，同时促进生成式人工智能技术的健康发展。
适用范围和关键定义
该规定明确涵盖广泛的合成媒体。这包括深度伪造视频、逼真的语音合成、文本到图像生成以及AI生成的虚拟主播。网信办将“深度合成服务提供者”定义为向公众提供这些技术的任何实体，无论是作为主要服务还是作为更大平台内的功能。使用此类服务进行公开传播的用户也须遵守某些条款，特别是关于标识和内容合法性的条款。
该规则的一个显著方面是其域外效力。向中国境内用户提供服务的提供者，即使位于海外，也应遵守规定。该规定还要求服务提供者在推出使用深度合成的新产品或功能前进行安全评估，并且必须向网信办备案其算法，这一过程类似于2022年3月生效的现有算法推荐规定。
标识和透明度要求
核心要求之一是强制标识。任何使用深度合成生成或修改且可能误导公众的内容必须明确标记为合成内容。该规定区分了“显式标识”和“隐式标识”。显式标识对用户可见，例如水印或文本通知。隐式标识嵌入文件的元数据或数字签名中，允许机器可读识别。
对于逼真的换脸或语音克隆内容，提供者必须添加显著通知，说明该内容为AI生成或编辑。规则还要求提供者确保标识不易被移除或篡改。此外，如果合成内容用于新闻报道，提供者必须明确指示其合成性质，以避免与真实镜头混淆。此标识要求扩展到用户上传的内容，使平台有责任在发布时检测并标识此类内容。
用户同意和个人权利
该规定高度重视保护个人权利。提供者在使用个人的生物识别信息（如面部或声音）进行深度合成之前，必须获得个人的明确同意。此同意必须知情且自愿，用户有权撤回。规则禁止使用深度合成创建或传播侵犯他人名誉、隐私或其他合法权利的内容。
此外，要求提供者建立机制，使用户能够举报违规行为，例如未经同意的深度伪造。他们还必须为受影响的个人提供一种方式，以请求删除未经许可使用其肖像的内容。该规定明确禁止使用深度合成制作虚假新闻、诽谤材料或扰乱社会秩序的内容。这与中国的更广泛网络安全和数据保护法律（包括2021年11月生效的《个人信息保护法》）保持一致。
内容审核和安全义务
服务提供者必须实施健全的内容审核系统。他们被要求审查所有合成内容，以查找非法或有害材料，包括宣扬恐怖主义、暴力、色情或颠覆国家政权的内容。该规定要求提供者使用技术手段识别合成内容并防止其滥用。这包括维护用户活动和内容生成日志至少六个月，遵守数据保留法律。
提供者还必须确保其算法不强化非法或不道德行为。规则要求深度合成服务设计时具备安全功能，例如防止生成以误导方式冒充政府官员或公众人物的内容。在合成内容可能影响舆论或国家安全的情况下，提供者应配合当局并立即采取行动删除或阻止此类内容。
算法备案和安全评估
关键合规机制之一是要求向网信办备案算法。提供者必须提交关于其深度合成算法的详细信息，包括其目的、数据来源和潜在风险。此备案过程类似于2022年规定下的推荐算法。网信办维护已备案算法的公开注册表，未备案可能导致处罚。
在推出新服务或重大更新之前，需要进行安全评估。这些评估评估对国家安全、社会稳定和个人权利的潜在风险。评估必须由合格的第三方组织或内部团队进行，结果必须提交给网信办。规定还要求提供者建立安全事件的应急响应计划，例如大规模深度伪造活动。
执法和处罚
违反规定可能导致行政处罚，包括罚款、暂停服务和吊销许可证。网信办和其他监管机构有权进行检查并要求纠正措施。在严重情况下，可能根据中国刑法追究刑事责任，特别是涉及欺诈、诽谤或传播虚假信息的罪行。
自规定生效以来，网信办积极执法。2023年，多个平台因未能充分标识合成内容而受到公开批评。网信办还发布了针对特定用例的指导，例如直播中的AI生成虚拟主播，要求明确标识。执法方式反映了中国通过部门特定规则而非单一综合法律监管人工智能的更广泛趋势。
对行业和全球背景的影响
该规定对国内外公司产生了重大影响。中国主要科技公司，包括阿里云和其他云提供商，已将合规功能集成到其AI服务中，例如自动水印和内容过滤。向中国用户提供深度合成工具的国际公司也调整了其做法，通常通过地理封锁或添加本地合规措施。
在全球范围内，中国的做法具有影响力。欧盟的《人工智能法案》于2024年8月生效，包含类似的深度伪造透明度要求，尽管执法机制不同。美国采取了更分散的方法，有州级法律和联邦指南。中国的规定以其全面范围和算法备案的整合而著称，这在主要经济体中独一无二。
未来发展和挑战
截至2025年，网信办已表示将更新规定以应对新兴技术，例如基于大型语言模型的内容生成和实时深度伪造视频。生成式人工智能的快速发展对执法构成挑战，因为检测方法落后于生成能力。该规定也受到一些学者的批评，他们认为标识要求不足以防止错误信息，而另一些人则认为规则过于严格，阻碍创新。
尽管存在这些挑战，该规定已为中国负责任地使用深度合成建立了基线。它们推动了水印和内容来源技术标准的发展，并鼓励了对检测算法的研究。该规定的长期有效性将取决于持续更新和监管机构跟上技术变革的能力。
与其他司法管辖区的比较分析
与欧盟的《人工智能法案》相比，后者将深度伪造归类为透明度风险，中国的规定更具规范性，要求特定的标识格式和算法备案。欧盟依赖一般透明度义务和风险管理，而中国则强制要求详细的技术合规。在美国，缺乏联邦法律导致州级法规的拼凑，例如加利福尼亚州关于政治深度伪造的法律于2020年生效。中国的集中方法允许一致的执法，但引发了对过度干预和审查的担忧。
该规定还与中国数据本地化要求相互作用，因为提供者必须在中国境内存储用户数据。这对全球运营的国际公司有影响。算法备案要求已被与类似措施进行比较，例如2021年关于推荐算法的规则，这些规则已被用于控制信息流。总体而言，中国的深度合成规定代表了治理合成媒体的开创性努力，支持者和批评者都在密切关注其实施情况。