AI 안전 연구소 네트워크(AI Safety Institutes Network)는 2024년에 설립된 국가 AI 안전 연구소들의 국제 연합체이다. 이 네트워크는 고급 인공지능 시스템, 특히 대규모 언어 모델과 생성형 AI 기술의 위험을 평가하고 완화하는 데 초점을 맞춘 정부 지원 연구 기관들을 한데 모은다.
회원 연구소들은 공동 연구 의제, 벤치마크 개발, 정보 교환에 협력한다. 이 네트워크는 일련의 국제 AI 안전 정상회의에서 출범했으며, 최첨단 AI 개발을 규제하려는 정부의 관심 증가를 반영한다.
설립과 회원
네트워크는 2023년 11월 블레츨리 파크에서 열린 AI 안전 정상회의에 이어 출범했다. 초기 창립 회원으로는 영국의 AI 안전 연구소와 미국 국립표준기술연구소 산하에 설립된 미국 AI 안전 연구소가 포함되었다. 2024년 말까지 네트워크는 유럽연합, 일본, 캐나다, 싱가포르 및 기타 여러 국가의 연구소를 포함하도록 확장되었다. 각 회원 연구소는 자국의 권한에 따라 독립적으로 운영되지만 공동 기술 워크숍과 공동 평가 활동에 참여한다.
핵심 활동
네트워크의 주요 기능은 최첨단 AI 모델에 대한 공통 평가 표준 개발, 안전 연구 결과 공유, 정책 권고 조정을 포함한다. 회원 연구소들은 오픈AI, 앤트로픽, 구글 딥마인드와 같은 조직의 모델에 대한 레드팀 테스트에서 협력한다. 공동 프로젝트는 사이버 능력, 생물학적 오용, 자율 의사 결정과 같은 영역의 위험을 평가하기 위한 공개 벤치마크를 생산했다. 네트워크는 또한 배포된 AI 시스템과 관련된 사고 보고서와 안전 사건의 공동 저장소를 유지한다.
거버넌스와 구조
연합체는 처음에는 상설 사무국 없이 운영되며, 회원 연구소들 사이에서 조정 역할을 순환한다. 네트워크는 연 2회 본회의를 개최하고 모델 평가, 정렬 연구, OECD 및 글로벌 AI 파트너십과 같은 기구와의 국제 표준 조정과 같은 특정 주제에 초점을 맞춘 작업 그룹을 유지한다. 회원 연구소들은 자발적으로 공동 프로젝트에 직원과 자원을 기여한다.
정책 영향
AI 안전 연구소 네트워크는 국가 규제와 산업 관행에 영향을 미쳤다. 그 평가 프레임워크는 유럽연합의 AI 법 시행 지침과 백악관의 안전하고 보안적이며 신뢰할 수 있는 AI 개발에 관한 행정 명령에서 참조되었다. 일부 회원국 정부는 모델 출시 전에 AI 개발자에게 안전 평가를 요구할 때 네트워크의 결과를 인용했다. 네트워크의 공개 보고서는 주요 AI 연구소와 애저, 구글 클라우드와 같은 클라우드 제공업체의 기업 위험 관리 접근 방식에 정보를 제공했다.
과제와 향후 방향
2025년 현재 네트워크는 국가별 우선순위 차이, 독점 모델 평가에 관한 지적 재산권 문제, 평가 역량을 앞지르는 AI 발전 속도와 관련된 과제에 직면해 있다. 제안된 다음 단계로는 추가 국가로의 회원 확대, 표준화된 사고 보고 프로토콜 개발, 상설 자금 메커니즘 설립이 포함된다. 네트워크는 글로벌 AI 위험 관리에 국제 협력이 필수적임을 계속 강조하면서도 안전 집행과 기술 경쟁력 사이의 긴장을 인정한다.
평가와 비판
업계 관찰자들은 일반적으로 네트워크를 조정 메커니즘으로 환영했지만, 일부 연구자들은 평가 표준이 사회적 영향보다 기술적 실패에 지나치게 좁게 초점을 맞추고 있다고 주장한다. 시민 사회 단체들은 네트워크 활동에 더 큰 투명성과 시민 사회 참여를 요구해 왔다. 연합체와 최첨단 AI 기업 간의 관계는 적대적 평가에서 협력적 평가로 진화했으며, 이는 개별 국가 연구소에서도 유사한 역학으로 나타난다.
같이 보기
참고 문헌
출처: 2023년 블레츨리 선언; 회원 연구소 공식 발표; 2025년까지 주요 기술 및 정책 저널의 보도 자료.