国家人工智能倡议是由公共部门协调的战略和计划，旨在促进和规范人工智能（AI）的发展。这些倡议涵盖各国政府为促进创新同时应对风险而采取的政策框架、伦理指南和法律措施。自2016年以来，已发布众多人工智能伦理指南以维持对该技术的社会控制，而部署人工智能的组织在创建可信赖人工智能、遵循原则并承担缓解风险责任方面发挥着核心作用。欧盟于2024年通过《人工智能法案》采用了共同的法律框架。
人工智能治理这一术语在政策、行业和学术语境中使用，描述了人工智能系统如何被引导和监督。2025年的一项系统性文献综述将其定义为涵盖以下问题：谁对人工智能系统负责、治理哪些要素、治理发生在开发生命周期的哪个阶段，以及如何通过框架、工具或模型来实施。夏洛特·斯蒂克斯指出，包括“可信赖人工智能”、“负责任人工智能”和“伦理人工智能”在内的相关术语，其含义随时间推移而发生变化，且常被互换使用。
背景
机器伦理的概念可追溯至1987年米切尔·沃尔德罗普在《AI Magazine》上发表的一篇文章。人工智能促进协会于2005年举办了关于机器伦理的研讨会。到2019年，安娜·乔宾、马塞洛·伊恩卡和埃菲·瓦耶纳识别出全球发布的84套人工智能伦理指南，其中88%于2016年后发布。这些指南在五项原则上达成共识：透明性、公正性、非恶意性、责任性和隐私性。人工智能合作伙伴关系于2016年由苹果、亚马逊、谷歌、Facebook、IBM和微软共同建立。IEEE于2016年启动了其自主与智能系统伦理全球倡议，并于2019年发布了《伦理对齐设计》。
根据斯坦福大学2025年人工智能指数，自2023年以来，75个国家中提及人工智能的立法数量增长了21.3%，较2016年增长了九倍。美国联邦机构在2024年出台了59项与人工智能相关的法规，是2023年的两倍多。2024年，45个州提出了近700项与人工智能相关的法案，而2023年为191项。
监管格局
目前对于人工智能监管的程度或机制尚无广泛共识。包括埃隆·马斯克、萨姆·奥尔特曼、达里奥·阿莫代伊和德米斯·哈萨比斯在内的多位知名人士公开呼吁立即进行监管。2023年，在GPT-4问世后，马斯克等人签署了一封公开信，敦促暂停训练更强大的人工智能系统。其他人，如马克·扎克伯格和马克·安德森，则警告预防性监管可能扼杀创新。
公众意见因国家而异。2022年益普索调查发现，78%的中国公民同意“使用人工智能的产品和服务利大于弊”，而美国人中这一比例仅为35%。另一项益普索民调显示，61%的美国人同意人工智能对人类构成风险，22%不同意。
国际峰会已成为协调的平台。英国于2023年举办了人工智能安全峰会，开启了系列会议，随后是2024年的首尔人工智能峰会、2025年的巴黎人工智能行动峰会和2026年的新德里人工智能影响峰会。
治理方法
人工智能监管涉及硬法和软法两种提案。硬法方法面临重大挑战，包括“节奏问题”，即传统法律无法跟上快速发展的技术，以及人工智能应用的多样性对现有监管机构构成挑战，因其管辖范围有限。软法方法提供灵活性，但往往缺乏执行潜力。
卡森·施密特、梅根·多尔和詹妮弗·瓦格纳提出了一种准政府监管机构方案，通过利用人工智能模型和训练数据集中的知识产权（即copyleft许可），将执行权委托给指定实体。这将允许人工智能在要求遵守伦理实践的条款下获得许可。像Encode AI这样的青年组织也发布了议程，呼吁更严格的监管和公私合作伙伴关系。
2020年伯克曼·克莱因中心对现有原则（如阿西洛马尔原则和北京原则）的元审查确定了八项基本原则：隐私、问责、安全与保障、透明性与可解释性、公平与非歧视、人类对技术的控制、职业责任以及尊重人类价值观。
政策领域
人工智能法律和法规分为三个主要主题：自主智能系统的治理、责任与问责，以及隐私与安全问题。公共管理视角认为人工智能法律、人工智能伦理与“人工智能社会”之间存在关系，后者被定义为劳动力替代与转型、社会接受与信任，以及人机交互的转型。在地方、国家和国际层面，公共部门战略的发展被认为在公共服务管理、执法、医疗保健（尤其是“人类保障”概念）、金融、机器人、自动驾驶车辆、军事与国家安全以及国际法等领域都是必要的。
亨利·基辛格、埃里克·施密特和丹尼尔·胡滕洛赫尔于2021年11月发表了联合声明《人工智能时代的人类》，呼吁成立政府委员会来监管人工智能。2025年的一项研究发现，竞争法律和监管机构在防止人工智能市场出现赢家通吃局面方面面临挑战。
未来方向
国家倡议持续演进，趋势是朝着更全面和更具可执行性的框架发展。欧盟的《人工智能法案》代表了向具有约束力的监管迈出的重要一步。随着人工智能技术的进步，包括Machine learning和Large language model系统的发展，各国政府可能会完善其战略，以在创新与社会保障之间取得平衡。通过峰会和像OpenAI和Google DeepMind研究社区等组织的国际合作将塑造全球治理格局，尽管变化的速度仍不确定。