英国已建立一系列由政府主导的举措和机构，致力于人工智能的安全开发与部署。这些努力统称为“英国人工智能安全”，旨在应对先进人工智能系统带来的风险，包括大型语言模型及其他生成式人工智能技术。英国政府将自身定位为人工智能安全领域的全球领导者，主办国际峰会并设立专门研究机构，以评估和减轻潜在危害。
这些努力的核心是人工智能安全研究所，该机构于2023年成立，是一个由政府支持的机构，负责对前沿人工智能模型进行研究和评估。该研究所与领先的人工智能开发者合作，包括OpenAI、Anthropic和Google DeepMind，以评估能力和风险。其工作重点涵盖模型稳健性、社会影响以及防止滥用等领域。该研究所还与国际伙伴合作，以协调跨境安全标准。
历史背景
英国对人工智能安全的正式参与始于2010年代末，当时政府委托开展了关于人工智能经济和社会影响的审查。2021年，国家人工智能战略概述了人工智能创新和治理的优先事项。然而，机器学习系统的快速发展，尤其是2022年ChatGPT发布后，促使了更紧迫的行动。2023年，政府在布莱切利园主办了人工智能安全峰会，汇聚了国际领导人、科技高管和学者。峰会产生了《布莱切利宣言》，这是一项关于人工智能安全共同原则的协议。
制度框架
英国人工智能安全研究所隶属于科学、创新与技术部。该研究所拥有一支由研究人员、工程师和政策专家组成的多学科团队。该研究所对先进人工智能模型进行部署前评估，测试危险能力，如网络攻击、欺骗和自主复制。它还发布关于安全技术的研究成果，包括诸如Reinforcement Learning from AI Feedback (RLAIF)的对齐方法和可解释性工具。该研究所与政府其他机构密切合作，如人工智能办公室和数据伦理与创新中心。
国际合作
英国的人工智能安全努力超越了国界。英国已与美国、欧盟及其他盟友签署双边协议，以共享研究并协调监管方法。人工智能安全研究所已与其他国家的对应机构建立伙伴关系，促进联合评估和数据共享。英国还参与国际论坛，如全球人工智能伙伴关系，以促进全球负责任的人工智能发展。
政策与监管
英国采用了促进创新的监管框架，避免严厉立法，转而采用针对特定部门的指导方针。政府提出了人工智能治理原则，包括安全性、透明度和公平性。2024年，英国推出了《人工智能监管法案》，旨在为人工智能开发者设立法定注意义务，并建立测试新技术的监管沙盒。尽管该法案尚未成为法律，但它反映了政府在创新与公共安全之间取得平衡的承诺。
挑战与批评
尽管采取了积极立场，英国人工智能安全仍面临挑战。批评者认为，人工智能安全研究所缺乏执法权力，依赖公司的自愿合作。一些专家质疑当前评估方法的充分性，指出测试可能无法捕捉所有风险。此外，与欧盟的《人工智能法案》相比，英国的监管方法被批评为过于宽松。政府回应称，需要灵活性和国际协调，并承认人工智能安全是一个快速发展的领域。
未来方向
展望未来，英国计划扩大人工智能安全研究所的能力，增加其工作人员和计算资源。政府还在投资于人工智能对齐和可解释性的基础研究，支持牛津大学和剑桥大学等学术机构。英国旨在主办更多国际峰会并制定全球安全标准。随着人工智能技术的不断进步，英国的人工智能安全努力可能会演变，以适应新的风险和机遇。