《生成式人工智能服务管理暂行办法》（英文：Interim Measures for the Management of Generative AI Services；拼音：Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ）是中国为规范国内面向公众的生成式人工智能而制定的一套法规。这些措施于2023年8月15日生效，为与中国公众互动的生成式人工智能系统的开发、部署和监管建立了法律框架。该法规由国家互联网信息办公室会同其他六个国家监管机构联合发布：国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部和国家广播电视总局。
这些措施是首批专门针对生成式人工智能技术（包括大型语言模型和其他形式的生成式人工智能）的全国性综合监管尝试之一。它们旨在平衡促进技术创新与维护国家安全、社会稳定和个人权利之间的关系。该框架适用于向国内公众提供的服务，同时豁免不面向公众的内部企业及研究用途。
范围与总则
措施的第一部分确立了基本范围和指导原则。第一条表明旨在促进生成式人工智能的健康发展和规范使用，同时维护国家安全、社会公共利益以及公民和组织的合法权益。第二条将范围定义为适用于中华人民共和国境内面向公众的生成式人工智能服务，明确豁免公司、研究机构和其他组织不向国内公众提供服务的内部使用。
第三条规定了关键监管原则：发展与安全并重，促进创新与法治相结合，采取包容审慎的态度，并对生成式人工智能服务进行分类监管。这种发展与安全并重的双重关注反映了中国技术治理中更广泛的政策取向。
第四条规定了实质性内容要求。生成式人工智能服务必须遵守相关法律，尊重社会公德，符合社会主义核心价值观。措施禁止宣扬推翻社会主义制度、危害国家安全或破坏社会稳定的内容。它们还禁止宣扬歧视、恐怖主义、极端主义、暴力、淫秽或法律禁止的虚假和有害信息。模型的设计和训练必须避免歧视或算法偏见，服务必须尊重知识产权和商业道德。提供者须保护他人权利，避免危害身心健康，并采取有效措施提高服务的透明度和准确性。
技术发展与治理
第二部分侧重于鼓励创新，同时为底层技术建立治理要求。第五条鼓励生成式人工智能在各行业的创新应用，以创造积极、健康、高质量的内容，支持人工智能创新、数据和应用程序开发的协作。第六条促进人工智能核心技术、基础设施和数据资源平台的自主创新，同时鼓励国际合作、算力资源协同共享、扩大高质量公共训练数据来源，以及采用安全芯片和资源。
第七条要求提供者采取有效措施，确保训练数据高质量、准确、多样且来源合法，不侵犯知识产权。当训练中使用个人信息时，提供者必须获得用户同意。该条款直接回应了机器学习系统开发中关于数据来源和隐私的关切。
第八条要求提供者根据措施制定清晰、具体且可操作的数据标注规则。它要求对标注工作进行质量评估、抽样验证、人员培训和监督，认识到数据质量在训练可靠人工智能模型中的重要性。
服务规范
第三部分详细规定了提供者向公众提供服务时的义务。第九条在法律上将提供者确立为网络内容生产者及个人信息处理者，要求其与用户签订服务协议，明确双方权利义务。第十条要求采取有效措施防止未成年人过度使用，要求提供者明确适当使用方式，并帮助用户理解生成式人工智能。
第十一条要求提供者保护用户隐私，最小化个人信息的收集和留存，并避免非法向他人提供用户信息。提供者须接受用户审查、复制、修改或删除其个人信息的请求，这与更广泛的数据保护原则相一致。第十二条要求对合成的图片、视频和其他生成内容进行标识，以应对深度伪造和虚假信息的关切。
第十三条要求为用户正常使用提供稳定、持续的服务。第十四条要求提供者及时处理服务生成非法内容或被用于非法活动的情况，可能包括停止生成、重新训练模型、警告用户并向相关部门报告。第十五条要求建立投诉和举报机制，以便公众反映问题，并及时处理和反馈。
监督与法律责任
第四部分确立了监管框架和法律后果。第十六条赋予网络安全、技术、行业、教育、公安及其他相关政府部门监管职责。第十七条要求对具有舆论影响力的服务进行安全评估，并履行算法备案程序，形成部署前审查与持续注册的双重机制。
第十八条允许用户向主管部门投诉不合规的服务。第十九条允许官员对提供者进行检查，要求其配合和透明。第二十条允许政府处理违反措施的外国服务，将监管范围延伸至在中国运营的国际提供者。第二十一条规定了可对违反规定的提供者进行处罚的相关部门，构成犯罪的依法追究刑事责任。
附则
第五部分包含定义和实施细节。第二十二条定义了生成式人工智能、服务提供者和服务用户等关键术语。第二十三条要求依法取得提供相关服务所需的许可证。第二十四条规定措施自2023年8月15日起施行。
这些措施适用于广泛的生成式人工智能技术，包括基于大型语言模型和变换器架构的系统。它们影响中国国内公司和在中国提供服务的国外公司，要求遵守内容标准、数据治理和安全评估程序。
实施与影响
这些措施的实施对人工智能行业具有重大影响。提供者必须在推出可能影响公众舆论的服务前进行安全评估，并向主管部门备案其算法。数据标注规则和质量评估的要求影响训练数据集的构建和验证方式。
措施还涉及生成系统中深度学习技术和神经网络的使用。虽然法规未规定具体技术方法，但要求模型避免算法偏见和歧视，这影响模型设计和训练实践。
对于国际人工智能公司，这些措施在向中国公众提供服务时创造了合规义务。这包括调整内容审核系统、实施个人数据使用的用户同意机制，以及配合政府检查。关于外国服务的规定表明，对违规行为可能进行域外执法。
这种监管方式反映了中国在人工智能全面治理方面的更广泛趋势。这些措施补充了关于网络安全、数据保护和算法推荐系统的其他法规，形成了多层次的监管环境。发展与安全并重的强调表明，在管理潜在风险的同时，持续努力保持技术竞争力。
截至生效日期，这些措施代表了一个基线框架，可能随着生成式人工智能技术的发展而更新。分类监管的要求表明，不同类型的服务可能根据其对公众舆论和社会稳定的潜在影响而面临不同级别的审查。措施还鼓励人工智能创新方面的国际合作，表明尽管存在监管限制，仍对全球协作持开放态度。
这些措施的实际实施仍在持续发展，主管部门发布指导并进行评估。对中国人工智能研究和开发的影响包括更加关注数据质量、标注实践和内容安全措施。这些措施也影响了其他司法管辖区关于人工智能治理的讨论，为全球关于如何监管生成式人工智能技术的对话做出了贡献。