《生成式人工智能服务管理暂行办法》是中国为规范国内面向公众的生成式人工智能而制定的一套规则。该办法由国家互联网信息办公室会同其他六个国家监管部门联合发布，自2023年8月15日起施行。它是首批针对生成式人工智能的全面国家框架之一，旨在促进创新，同时应对国家安全、社会稳定和个人权利等风险。该法规适用于向国内公众提供的服务，豁免了内部企业及研究用途，并强调“包容审慎”原则和分类监管。
该办法由国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局联合发布。全文共24条，分为五章，涵盖总则、技术发展与治理、服务规范、监督检查和法律责任、附则。
背景与目的
21世纪20年代初，大型语言模型和生成式人工智能系统的兴起促使世界各国政府考虑新的监管方法。中国的办法旨在平衡促进技术进步与保护国家安全和公共利益的需要。其既定目标包括鼓励生成式人工智能的健康发展和规范使用，维护社会利益，保障公民合法权益。监管理念强调发展与安全并重，促进创新与法治并举，并采取分类、包容的监管方式。
适用范围与豁免
第二条界定了办法的适用范围，适用于在中华人民共和国境内向公众提供的生成式人工智能服务。公司、研究机构和其他组织内部使用且不服务国内公众的服务被明确豁免。这一豁免旨在避免抑制内部创新，同时将监管重点放在面向消费者的应用上。该办法不适用于在国外开发的服务，除非这些服务面向中国公众提供。
原则与内容要求
第三条规定了指导原则，包括发展安全并重、鼓励创新和坚持法治。第四条对生成式人工智能服务提出了内容要求：必须遵守相关法律，尊重社会公德，包括社会主义核心价值观。提供者必须确保生成内容不煽动颠覆社会主义制度、危害国家安全、破坏社会稳定，或包含歧视、恐怖主义、极端主义、暴力、淫秽以及其他法律禁止的虚假和有害信息。办法还要求模型的设计和训练避免歧视和算法偏见，尊重知识产权和商业道德，避免危害身心健康。必须通过有效措施提高服务的透明度和准确性。
技术发展与治理
第五条和第六条鼓励各行业在生成式人工智能领域的创新，支持协作、数据和应用开发、核心技术自主创新、基础设施建设和数据资源平台。它们促进国际合作、计算资源共享、高质量公共训练数据的扩展以及安全芯片和资源的采用。第七条规定提供者必须确保训练数据高质量、准确、多样且来源合法，不侵犯知识产权。如果使用个人信息，必须征得用户同意。第八条要求提供者建立明确的数据标注规则，包括质量评估、抽样验证、人员培训和标注工作监督。
服务规范
第九条在法律上将提供者视为网络内容生产者及个人数据处理者，要求其与用户签订服务协议，明确双方权利义务。第十条涉及未成年人保护，要求采取有效措施防止过度使用，并规定提供者必须明确适当使用方式。第十一条规定提供者有义务保护用户隐私，最小化数据收集和留存，避免非法共享用户信息。提供者必须接受用户查阅、复制、更正或删除个人数据的请求。第十二条要求对合成的图片、视频和其他生成内容进行标识，以告知用户。第十三条要求为正常使用提供稳定、持续的服务。第十四条规定提供者有义务及时处理违法内容或滥用行为，包括停止生成、重新训练模型、警告用户并向主管部门报告。第十五条要求建立投诉和举报机制，以处理公众诉求。
监督检查与法律责任
第十六条至第二十一条概述了监督框架。第十六条将监督职责分配给网络安全、技术、行业、教育、公安及其他相关政府部门。第十七条要求对具有舆论影响力的服务进行安全评估，并履行算法备案程序。第十八条允许用户就不合规服务向主管部门投诉。第十九条允许官员检查提供者，提供者必须配合并提供透明度。第二十条涉及违反办法的境外服务，允许政府采取行动。第二十一条界定了可对违规者进行处罚的机关，犯罪行为依法追究刑事责任。
关键术语与生效日期
第二十二条界定了生成式人工智能、服务提供者和服务使用者等关键术语。第二十三条要求提供者在法律有规定时取得相关许可证。第二十四条确定了自2023年8月15日起生效的日期。该办法被视为其他司法管辖区尝试监管人工智能、平衡创新与社会保护的范本。