2021年，中国出台了一套基础性的人工智能监管框架，标志着该国对这项技术的治理方式发生了重大转变。这些措施以北京的AI原则和算法规则为核心，确立了该国管理人工智能系统快速部署的方法，尤其是那些影响公众行为和信息传播的系统。这些法规是最早针对人工智能社会风险的国家级全面举措之一，为后来的全球政策辩论开创了先例。
这套监管方案包含多份由中国官方机构（包括国家互联网信息办公室）发布的关键文件。其中最突出的是《互联网信息服务算法推荐管理规定》，该规定于2022年3月1日生效，但其起草和公开征求意见过程贯穿2021年全年。这些规则针对的是新闻、搜索和社交媒体平台所使用的算法推荐技术，要求算法在排序和内容过滤方面保持透明。此外，2021年9月发布的《新一代人工智能伦理规范》提出了六项基本原则：增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养。
监管范围与要求
算法规定适用于所有使用算法推荐技术的互联网信息服务提供者，包括个性化推荐、排序和推送通知。企业必须向监管部门进行算法备案，并说明算法的目的、数据来源和潜在风险。它们还必须为用户提供关闭个性化推荐的选项，并对算法决策提供解释，这类似于其他司法管辖区所见的“解释权”。法规明确禁止利用算法操纵用户行为以破坏公共秩序、传播虚假信息或进行不正当竞争。
伦理原则与治理
北京的AI伦理原则强调以人为本的方法。文件指出，人工智能的发展应优先考虑公共利益而非商业利益，并明确了对不良后果的责任追究。它要求算法公平，避免基于性别、民族或其他受保护特征的偏见。这些原则还要求对高风险AI应用进行人工监督，特别是在自动驾驶和医疗诊断等领域，因为这些领域的决策可能对生命产生重大影响。这些指导方针适用于中国境内所有AI研究和部署活动，包括学术机构和私营企业的工作。
实施与执行
执行机制结合了企业自我评估和政府检查。企业必须定期对其算法进行审计，并向监管部门提交合规报告。国家互联网信息办公室有权责令违规企业修改算法、处以罚款，或在严重情况下暂停其服务。在实践中，这促使主要平台（如阿里云等）对其推荐系统进行了明显调整，以减少可能被视为政治敏感或破坏社会稳定的内容。这些法规还推动了行业标准的制定，全国信息安全标准化技术委员会等机构发布了配套的指导文件。
对AI发展的影响
2021年的这些法规影响了中国人工智能创新的发展轨迹。通过强制要求透明度和问责制，它们促使企业投资于可解释AI和公平性工具，而这些领域此前受到的关注较少。这些规则也给企业带来了合规负担，尤其是对较小的初创企业而言，这可能巩固了拥有足够资源应对监管要求的大型企业的市场主导地位。在国际上，这一框架受到了其他政府的高度关注，包括正在起草自身AI法案的欧盟，以及后来就AI安全发布行政命令的美国。中国的做法强调国家监管和社会稳定，与更偏向市场驱动的模式形成对比，引发了关于创新与管控之间平衡的广泛讨论。
全球意义与遗产
中国2021年的行动是AI治理的一个分水岭，表明主要经济体可以对算法系统实施具有约束力的规则。这些原则和规则成为后续政策讨论的参考点，包括后来围绕生成式AI和大语言模型系统的讨论。虽然这些法规最初针对的是推荐算法，但其基本逻辑后来扩展到了其他AI应用，为未来的法律（如2023年针对生成式AI的措施）奠定了基础。对人工监督和伦理审查的重视影响了企业实践，许多中国科技公司建立了伦理委员会，并将算法影响评估作为标准流程。截至2025年，这一框架仍然有效，并会根据新技术发展进行定期更新，凸显其作为中国数字治理战略持久支柱的地位。