미국 AI 안전 연구소(AISI)는 미국 국립표준기술연구소(NIST) 내에 설립된 정부 지원 조직으로, 프런티어 AI라고도 불리는 고급 인공지능(AI) 모델의 안전성을 평가하고 보장하는 임무를 맡고 있다. 이 연구소는 2023년 11월 영국에서 열린 AI 안전 정상회의에서 영국의 AI 안전 연구소와 함께 설립되었다. 이 연구소는 AI 안전을 위한 측정 과학, 표준, 지침 개발에 중점을 두며, 프런티어 모델의 배포 전 테스트를 포함한다. 2025년, 미국 AISI는 AI 표준 및 혁신 센터(CAISI)로 개명되었으며, 이는 표준 제정과 혁신에서의 확장된 역할을 반영한다.
설립 및 초기 활동
미국 AISI는 미국 상무부 산하 기관인 NIST의 일부로 설립되었다. 그 설립은 AI 안전에 대한 우려가 커지는 가운데 이루어졌으며, 특히 2023년 고급 AI로 인한 잠재적 실존적 위험에 대한 공개적 선언 이후였다. 2023년 11월 AI 안전 정상회의에서 미국과 영국은 각각의 연구소 설립을 발표했다. 미국 AISI의 초기 임무에는 OpenAI, Anthropic, Google DeepMind와 같은 기업들이 개발하는 프런티어 AI 모델을 위한 평가 방법 개발이 포함되었다. 2024년 4월, 미국과 영국 AISI는 공동 안전 테스트를 최소 한 건 실시하기로 합의하여 평가 절차를 조화시키는 것을 목표로 했다. 그러나 2024년 4월 Politico가 보도한 바에 따르면, 많은 AI 기업들이 평가를 위해 가장 고급 모델에 대한 배포 전 접근 권한을 아직 공유하지 않았으며, 일부는 연구소들이 공통 규칙에 합의하기를 기다리고 있었다.
국제 네트워크 및 협력
2024년 5월 AI 서울 정상회의에서 국제 지도자들은 영국, 미국, 일본, 프랑스, 독일, 이탈리아, 싱가포르, 한국, 호주, 캐나다, 유럽 연합을 포함한 AI 안전 연구소 네트워크를 구성하기로 합의했다. 미국 AISI는 안전 평가를 조정하고 모범 사례를 공유하는 것을 목표로 하는 이 네트워크에 참여한다. 2025년 7월, 네트워크는 AI 에이전트 평가, 특히 민감한 정보 유출이나 사이버 보안과 관련된 문제를 탐구하기 위한 훈련을 실시했다. 네트워크 회원들은 2025년 샌디에이고에서 열린 NeurIPS에서도 만났다. 미국 AISI는 또한 영국의 AI 안전 연구소(이후 AI 보안 연구소로 개명) 및 일본의 AISI와 같은 다른 국가 연구소와 협력하여 글로벌 AI 안전 표준을 발전시키고 있다.
역할 및 기능
미국 AISI는 측정 과학과 표준 개발로 알려진 NIST 산하에서 운영된다. 이 연구소의 주요 기능은 프런티어 AI 모델 평가 수행, 테스트 방법론 개발, AI 안전 및 신뢰성을 위한 지침 작성이다. 이 연구소는 AI 개발자와 연구자를 포함한 정부 및 민간 부문 이해관계자와 협력한다. 또한 NIST의 더 넓은 임무에 부합하는 국제 표준 노력에 기여한다. 2025년 현재, 이 연구소는 CAISI로 개명되었지만 AI 표준과 혁신에 대한 핵심 초점은 유지된다. 이 연구소는 머신 러닝 및 생성형 AI와 같은 분야에서 혁신을 촉진하면서 AI 위험을 관리하려는 더 넓은 미국 정부 전략의 일부이다.
다른 AI 안전 노력과의 관계
미국 AISI는 런던에 설립되고 2024년 5월 샌프란시스코에 사무소를 연 영국의 AI 안전 연구소와 같은 다른 국가 AI 안전 기관과 구별된다. 미국 연구소는 또한 2024년 5월에 설립된 EU AI 사무소 및 국제 네트워크의 다른 회원들과 조정한다. 미국 AISI는 국내 표준과 평가에 중점을 두지만, AI 서울 정상회의 및 후속 회의를 포함한 AI 안전에 대한 글로벌 논의에 참여한다. 이 연구소의 작업은 AI 안전에 대한 학술 연구를 수행하는 버클리 AI 연구 실험실 및 MIT CSAIL과 같은 다른 조직의 작업을 보완한다. 그러나 미국 AISI의 주요 역할은 순수 연구 중심이 아닌 규제 및 표준 기반이다.
향후 방향
2025년 현재, 미국 AISI(현재 CAISI)는 프런티어 AI 모델이 더욱 강력해짐에 따라 AI 표준 및 평가에 대한 작업을 계속할 것으로 예상된다. 이 연구소는 특히 대규모 언어 모델 및 딥 러닝 분야에서 미국 AI 정책을 형성하는 데 핵심적인 역할을 할 가능성이 높다. CAISI로의 개명은 안전뿐만 아니라 혁신을 촉진하는 더 넓은 임무를 시사한다. 이 연구소는 또한 더 많은 국가를 포함하도록 확장될 수 있는 국제 네트워크에 계속 참여할 것이다. AI 기술이 진화함에 따라, 미국 AISI는 AI 에이전트 및 자율 시스템과 같은 새로운 위험을 해결하기 위해 평가 방법을 적응시켜야 할 것이다. 이 연구소의 성공은 산업계, 학계 및 국제 파트너와 협력하는 능력에 달려 있다.