《生成式人工智能服务管理暂行办法》（英文：Interim Measures for the Management of Generative AI Services；拼音：Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ）是中国为规范国内面向公众的生成式人工智能而制定的一套法规。这些措施于2023年8月15日生效，为与公众互动的生成式人工智能系统的开发、部署和监管建立了法律框架。该法规由国家互联网信息办公室会同其他六个国家监管机构联合发布：国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部以及国家广播电视总局。
这些措施是首批专门针对生成式人工智能技术（包括大型语言模型和其他形式的生成式人工智能）的综合性国家监管尝试之一。它们旨在平衡促进技术创新与保护国家安全、社会稳定和个人权利之间的关系。该框架适用于向国内公众提供的服务，同时豁免不面向公众的企业内部和企业研究用途。
范围与总则
第一部分确立了基本范围和指导原则。第一条声明旨在促进生成式人工智能的健康发展和规范使用，同时维护国家安全、社会公共利益以及公民和组织的合法权益。第二条将范围界定为适用于中华人民共和国境内面向公众的生成式人工智能服务，明确豁免公司、研究机构和其他组织不向国内公众提供服务的内部使用。
第三条规定了关键监管原则：发展与管理并重、促进创新与依法治理相结合，并采取包容审慎的态度对生成式人工智能服务进行分类监管。这种对发展和安全的双重关注反映了中国技术治理中更广泛的政策取向。
第四条规定了实质性内容要求。生成式人工智能服务必须遵守相关法律并尊重社会公德，与社会主义核心价值观保持一致。这些措施禁止宣扬推翻社会主义制度、危害国家安全或破坏社会稳定的内容。它们还禁止宣扬歧视、恐怖主义、极端主义、暴力、淫秽以及法律禁止的虚假和有害信息。模型的设计和训练必须避免歧视或算法偏见，服务必须尊重知识产权和商业道德。提供者有义务保护他人权利，避免危害身心健康，并采取有效措施提高服务的透明度和准确性。
技术发展与治理
第二部分侧重于鼓励创新，同时为底层技术建立治理要求。第五条鼓励生成式人工智能在各行业的创新应用，以创造积极、健康、高质量的内容，支持人工智能创新、数据和应用开发方面的合作。第六条促进人工智能核心技术的自主创新、基础设施建设和数据资源平台发展，同时鼓励国际合作、算力资源协同共享、扩大高质量公共训练数据来源以及采用安全芯片和资源。
第七条要求提供者采取有效措施，确保训练数据高质量、准确、多样且来源合法，不侵犯知识产权。当训练中使用个人信息时，提供者必须获得用户同意。该条款直接回应了机器学习系统开发中关于数据来源和隐私的关切。
第八条要求提供者根据这些措施制定清晰、具体且可操作的数据标注规则。它要求对标注工作进行质量评估、抽样验证、人员培训和监督，认识到数据质量在训练可靠人工智能模型中的重要性。
服务规范
第三部分详细规定了提供者向公众提供服务时的义务。第九条在法律上将提供者确立为在线内容的生产者和个人数据的处理者，要求他们与用户签订服务协议，明确双方的权利和义务。第十条要求采取有效措施防止未成年人过度使用，要求提供者明确适当用途并帮助用户理解生成式人工智能。
第十一条要求提供者保护用户隐私，最小化个人信息的收集和保留，并避免非法向他人提供用户信息。提供者必须接受用户审查、复制、修改或删除其个人信息的请求，与更广泛的数据保护原则保持一致。第十二条要求对合成的图片、视频和其他生成内容进行标注，以应对深度伪造和虚假信息的担忧。
第十三条要求为用户正常使用提供稳定、持续的服务。第十四条要求提供者在服务生成非法内容或被用于非法活动时及时处理，可能包括停止生成、重新训练模型、警告用户以及向相关主管部门报告。第十五条要求建立投诉和举报机制，以处理公众诉求并及时处理和反馈。
监督与法律责任
第四部分建立了监督框架和法律后果。第十六条赋予网络安全、科技、行业、教育、公安和其他相关政府部门监管职责。第十七条要求对具有舆论影响力的服务进行安全评估，同时进行算法备案程序，形成部署前审查和持续注册的双重机制。
第十八条允许用户就不合规服务向主管部门投诉。第十九条允许官员对提供者进行检查，要求配合和透明。第二十条允许政府处理违反这些措施的外国服务，将监管范围扩展到在中国运营的国际提供者。第二十一条定义了可对违反规定的提供者进行处罚的相关主管部门，犯罪行为依法追究。
附则
第五部分包含定义和实施细节。第二十二条定义了生成式人工智能、服务提供者和服务用户等关键术语。第二十三条要求在法律要求的情况下获得提供服务的相关许可证。第二十四条确定这些措施于2023年8月15日生效。
这些措施适用于广泛的生成式人工智能技术，包括基于大型语言模型和Transformer架构的技术。它们影响中国国内公司和在中国提供服务的国外公司，要求遵守内容标准、数据治理和安全评估程序。
实施与影响
这些措施的实施对人工智能行业具有重大影响。提供者必须在推出可能影响公众舆论的服务前进行安全评估，并向主管部门备案算法。对数据标注规则和质量评估的要求影响训练数据集的构建和验证方式。
这些措施还涉及生成系统中深度学习技术和神经网络的使用。虽然法规不强制要求特定技术方法，但它们要求模型避免算法偏见和歧视，这影响模型设计和训练实践。
对于国际人工智能公司，这些措施在向中国公众提供服务时创造了合规义务。这包括调整内容审核系统、实施个人数据使用的用户同意机制以及配合政府检查。关于外国服务的规定表明，对于违规行为可能进行域外执法。
这种监管方式反映了中国向全面人工智能治理发展的更广泛趋势。这些措施补充了网络安全、数据保护和算法推荐系统方面的其他法规，创造了分层监管环境。对发展和安全的双重强调表明，在管理潜在风险的同时，持续努力保持技术竞争力。
截至生效日期，这些措施代表了一个基线框架，可能随着生成式人工智能技术的发展而更新。分类监管的要求表明，不同类型的服务可能根据其对公众舆论和社会稳定的潜在影响面临不同级别的审查。这些措施还鼓励人工智能创新方面的国际合作，表明尽管存在监管限制，仍对全球合作持开放态度。
这些措施的实际实施仍在持续发展，主管部门发布指导并进行评估。对中国人工智能研究和开发的影响包括对数据质量、标注实践和内容安全措施的更多关注。这些措施也影响了其他司法管辖区关于人工智能治理的讨论，为全球关于如何监管生成式人工智能技术的对话做出了贡献。