영국은 인공지능의 안전한 개발과 배포를 위해 일련의 정부 주도 이니셔티브와 기관을 설립했다. 총칭하여 영국 AI 안전(UK AI Safety)으로 불리는 이러한 노력은 대규모 언어 모델 및 기타 생성형 AI 기술을 포함한 고급 AI 시스템과 관련된 위험을 해결하는 것을 목표로 한다. 영국 정부는 국제 정상 회담을 개최하고 잠재적 피해를 평가하고 완화하기 위한 전용 연구 기관을 설립하면서 AI 안전 분야의 글로벌 선도자로 자리매김했다.
이러한 노력의 중심에는 2023년에 정부 지원 조직으로 출범한 AI 안전 연구소(AI Safety Institute)가 있으며, 최첨단 AI 모델에 대한 연구와 평가를 수행한다. 이 연구소는 오픈AI, 앤트로픽, 구글 딥마인드를 포함한 주요 AI 개발사와 협력하여 역량과 위험을 평가한다. 그 작업은 모델 견고성, 사회적 영향, 오용 방지와 같은 영역에 초점을 맞춘다. 또한 연구소는 국제 파트너와 협력하여 국경을 넘어 안전 표준을 조화시키고 있다.
역사적 배경
영국의 공식적인 AI 안전 참여는 2010년대 후반 정부가 AI의 경제적·사회적 영향에 대한 검토를 의뢰하면서 시작되었다. 2021년에는 국가 AI 전략(National AI Strategy)이 AI 혁신과 거버넌스의 우선순위를 제시했다. 그러나 특히 2022년 ChatGPT 출시 이후 머신러닝 시스템의 급속한 발전은 더욱 시급한 조치를 촉구했다. 2023년 정부는 블레츨리 파크(Bletchley Park)에서 AI 안전 정상 회담을 개최하여 국제 지도자, 기술 경영진, 학계를 한자리에 모았다. 이 정상 회담은 AI 안전에 대한 공동 원칙에 합의한 블레츨리 선언(Bletchley Declaration)을 산출했다.
제도적 프레임워크
영국 AI 안전 연구소는 과학·혁신·기술부(Department for Science, Innovation and Technology) 산하에서 운영된다. 연구소는 다학제적 연구원, 엔지니어, 정책 전문가 팀을 고용한다. 연구소는 고급 AI 모델에 대한 배포 전 평가를 수행하여 사이버 공격, 기만, 자율 복제와 같은 위험한 역량을 테스트한다. 또한 RLHF와 같은 정렬 방법 및 해석 가능성 도구를 포함한 안전 기술에 대한 연구를 발표한다. 연구소는 AI 사무국(Office for AI) 및 데이터 윤리·혁신 센터(Centre for Data Ethics and Innovation)와 같은 다른 정부 기관과 긴밀히 협력한다.
국제 협력
영국 AI 안전 노력은 국경을 넘어 확장된다. 영국은 미국, 유럽 연합 및 기타 동맹국과 양자 협정을 체결하여 연구를 공유하고 규제 접근 방식을 조정하고 있다. AI 안전 연구소는 다른 국가의 대응 기관과 파트너십을 구축하여 공동 평가와 데이터 공유를 촉진한다. 영국은 또한 글로벌 AI 파트너십(Global Partnership on AI)과 같은 국제 포럼에 참여하여 전 세계적으로 책임 있는 AI 개발을 촉진한다.
정책 및 규제
영국은 과도한 입법보다는 부문별 지침을 선호하는 혁신 친화적 규제 프레임워크를 채택했다. 정부는 안전, 투명성, 공정성을 포함한 AI 거버넌스 원칙을 제안했다. 2024년 영국은 AI 규제 법안(AI Regulation Bill)을 도입하여 AI 개발자에 대한 법정 주의 의무를 확립하고 신기술 테스트를 위한 규제 샌드박스를 만들고자 한다. 아직 법률로 제정되지는 않았지만, 이 법안은 혁신과 공공 안전의 균형을 맞추려는 정부의 의지를 반영한다.
과제 및 비판
적극적인 입장에도 불구하고 영국 AI 안전은 과제에 직면해 있다. 비평가들은 AI 안전 연구소가 집행 권한이 부족하여 기업의 자발적 협력에 의존한다고 주장한다. 일부 전문가들은 현재 평가 방법의 적절성에 의문을 제기하며 테스트가 모든 위험을 포착하지 못할 수 있다고 지적한다. 또한 영국의 규제 접근 방식은 유럽 연합의 AI 법(AI Act)에 비해 너무 관대하다는 비판을 받는다. 정부는 AI 안전이 빠르게 진화하는 분야임을 인정하면서 민첩성과 국제적 조정의 필요성을 강조하며 대응했다.
향후 방향
앞으로 영국은 AI 안전 연구소의 역량을 확장하여 직원과 계산 자원을 늘릴 계획이다. 정부는 또한 옥스퍼드 대학교와 케임브리지 대학교와 같은 학술 기관을 지원하면서 AI 정렬 및 해석 가능성에 대한 기초 연구에 투자하고 있다. 영국은 추가 국제 정상 회담을 개최하고 글로벌 안전 표준을 개발하는 것을 목표로 한다. AI 기술이 계속 발전함에 따라 영국 AI 안전 노력은 새로운 위험과 기회에 적응하면서 진화할 가능성이 높다.