联合国人工智能治理涵盖该组织为应对Artificial intelligence所带来的全球挑战与机遇所做的努力。这些举措旨在制定国际规范、政策和框架，以确保人工智能技术的开发和使用方式安全、合乎道德，并惠及全人类。联合国的参与反映了其认识到人工智能的影响超越国界，需要协调一致的全球行动。
这些努力的核心是2023年成立的联合国人工智能咨询机构。该机构汇集了来自政府、行业、学术界和民间社会的专家，就人工智能治理提供建议。其工作重点是梳理现有治理缺口、促进包容性对话，并提出国际合作机制。该咨询机构在联合国秘书长的支持下运作，秘书长强调了采取全球性方法进行人工智能监管的必要性。
历史背景
联合国对人工智能治理的参与建立在早期关于技术与人权讨论的基础之上。2018年，联合国秘书长发起了数字合作高级别小组，该小组强调了在新兴技术方面开展国际合作的重要性。该小组2019年的报告《数字相互依存的时代》呼吁全球对包括人工智能在内的数字合作作出承诺。这促成了2020年联合国数字合作路线图的制定，其中概述了促进包容性数字经济和社会发展的步骤。
2021年，联合国教科文组织通过了《人工智能伦理建议书》，这是首份关于人工智能伦理的全球规范性文书。该建议书为成员国将其人工智能政策与人权和民主价值观保持一致提供了框架。联合国的人工智能治理努力还与其他机构相互关联，例如主办“人工智能惠及人类”峰会的国际电信联盟（ITU），以及处理人工智能对隐私和言论自由影响的联合国人权理事会。
主要举措与报告
联合国人工智能咨询机构于2023年12月发布了其临时报告《为人类治理人工智能》。该报告确定了七个关键行动领域：建立全球人工智能治理架构、解决人工智能鸿沟、确保人工智能安全、促进问责制、推动创新、加强国际合作，以及在发展中国家进行能力建设。报告提议设立一个新的联合国实体，，国际人工智能办公室，以协调这些努力，并设立全球人工智能基金以支持能力建设。
2024年9月发布的最终报告完善了这些建议，并呼吁建立全球人工智能治理框架。该框架将包括人工智能发展的原则、透明度和问责制标准，以及合规监测机制。报告还强调需要纳入全球南方国家的声音，这些国家在人工智能政策讨论中往往代表性不足。
此外，联合国大会于2024年3月通过了一项关于人工智能治理的决议，该决议由120多个成员国共同提案。决议题为“抓住安全、可靠和值得信赖的人工智能系统促进可持续发展的机遇”，鼓励成员国制定国家人工智能战略，并在人工智能安全研究方面开展合作。决议还呼吁联合国促进包括私营部门和民间社会在内的利益攸关方之间的对话。
挑战与辩论
联合国的人工智能治理面临若干挑战。一个主要问题是创新与监管之间的紧张关系。一些利益攸关方，尤其是科技行业的代表，认为过于严格的规定可能扼杀进步和竞争力。另一些人，包括许多民间社会团体，则主张采取预防性措施以防止潜在危害，如偏见、监控和自主武器。
另一个挑战是治理努力的碎片化。联合国各机构，如教科文组织、国际电信联盟和联合国人权理事会，都有各自与人工智能相关的举措，可能导致重复和矛盾。咨询机构关于设立中央办公室的提议旨在解决这一问题，但尚未完全落实。
关于咨询机构的代表性也存在争论。虽然其成员来自不同地区，但一些批评者认为，它没有充分纳入较小发展中国家或受影响社区的观点。确保公平参与仍是一个持续的关切。
未来展望
展望未来，联合国计划在2025年可能召开一次人工智能世界峰会，以建立全球人工智能治理协议的政治势头。该峰会将汇集国家元首、行业领袖和专家，共同承诺遵守共同原则。联合国秘书长还呼吁设立一个人工智能科学咨询委员会，以提供关于人工智能风险和收益的独立评估。
截至2025年，联合国的人工智能治理努力仍在不断演变。这些举措的成功将取决于成员国合作的意愿以及平衡不同利益的能力。联合国作为中立召集者的角色至关重要，但它还必须证明能够产生具体成果，而不仅仅是宣言。
Large language model和Generative AI系统的发展加剧了治理的紧迫性。这些由OpenAI、Anthropic和Google DeepMind等公司开发的技术，引发了关于问责制、错误信息和经济增长的新问题。联合国的框架旨在解决这些问题，同时促进人工智能在医疗保健、教育和气候行动等领域对可持续发展的益处。
结论
联合国人工智能治理代表着为应对人工智能挑战创建全球回应的重要尝试。通过咨询机构、决议和拟议框架，联合国力求确保人工智能服务于人类的共同利益。尽管障碍依然存在，但持续的对话和制度建设是迈向更加协调和公平的人工智能未来的必要步骤。