미국 AI 안전은 미국 정부가 Artificial intelligence로 인한 잠재적 피해를 이해하고 줄이기 위해 추진하는 정책, 제도, 기술 프로그램을 포괄한다. 이러한 노력은 Large language model과 Generative AI 도구를 포함한 고급 Machine learning 시스템이 더욱 강력해지고 널리 배포되면서 강화되었다. 이 접근 방식은 자발적 산업 약속, 연방 연구 및 평가, 규제 지침을 결합하며, 편향과 오용 같은 단기적 위험과 자율 시스템에 대한 장기적 우려에 초점을 맞춘다.
연방 조정 및 연구소
미국 AI 안전의 핵심 요소는 2023년 국립표준기술연구소(NIST) 내에 설립된 미국 AI 안전 연구소(AISI)이다. AISI는 최첨단 AI 모델의 테스트와 평가를 수행하고 안전 지침을 개발하며 국제 파트너와 협력한다. 이는 바이든 행정부의 2023년 10월 안전하고 보안적이며 신뢰할 수 있는 인공지능 개발 및 사용에 관한 행정명령에서 비롯되었으며, 해당 명령은 NIST에 연구소 설립을 지시했다. 또한 이 명령은 핵심 인프라에 대한 위험 평가를 의무화하고 가장 강력한 모델의 개발자에게 안전 테스트 결과를 정부와 공유하도록 요구했다.
AISI 외에도 백악관은 AI 태스크포스와 이후 국토안보부 산하 AI 안전 및 보안 위원회를 설립했다. 이들 기구는 국방부, 에너지부, 국립과학재단을 포함한 기관의 관리들을 한데 모은다. 그들의 작업에는 에너지, 의료, 교통 분야의 AI 응용 평가와 연방 정부의 AI 시스템 조달이 안전 기준을 충족하는지 확인하는 것이 포함된다.
자발적 약속 및 산업 참여
미국 정부는 주요 AI 개발자와의 자발적 협정에 크게 의존해 왔다. 2023년 7월, 백악관은 OpenAI, Anthropic, Google DeepMind를 포함한 선도 기업들로부터 외부 레드팀 테스트 시행, AI 생성 콘텐츠 워터마킹, 안전 사고 정보 공유에 대한 약속을 확보했다. 이러한 약속은 2024년에 이어져 출시 전 모델 평가와 사이버 보안 조치 투자와 같은 주제를 다루는 더 광범위한 서약으로 확장되었다.
법적 구속력은 없지만, 이러한 협정은 산업 관행을 형성했다. AISI는 또한 기업들과 직접 협력하여 최첨단 모델의 출시 전 평가를 수행했으며, 결과는 때때로 안전 보고서에 게시된다. 이 협력 모델은 혁신과 감독의 균형을 목표로 하지만, 비판가들은 자발적 조치에 집행 메커니즘이 부족하다고 주장한다.
기술 연구 및 평가
미국 AI 안전은 모델 안전을 측정하고 개선하기 위한 기술 연구에 상당한 투자를 포함한다. NIST는 AI 위험을 식별하고 관리하기 위한 자발적 지침 세트인 AI 위험 관리 프레임워크를 개발했다. AISI의 테스트 프로토콜은 유해 콘텐츠 생성, 편향, 모델이 사이버 공격이나 생물학적 무기 제작을 지원할 가능성과 같은 영역을 다룬다.
연방 기관은 또한 해석 가능성, 견고성, 정렬과 같은 AI 안전 주제에 대한 학술 연구에 자금을 지원한다. 국립과학재단은 AI의 사회적 영향 연구를 지원하는 프로그램을 시작했으며, 국방고등연구계획국(DARPA)은 AI 시스템 검증 및 확인 방법을 탐구했다. 이러한 노력은 모델이 예측 불가능하게 행동하거나 의도된 목적에서 벗어날 때 이를 감지할 수 있는 도구를 만드는 것을 목표로 한다.
입법 및 규제 환경
미국 AI 안전은 행정 조치와 제안된 법안의 혼합을 통해 진화해 왔다. 2025년 현재, 의회는 포괄적인 AI 안전 법안을 통과시키지 않았지만 여러 법안이 제출되었다. 여기에는 고위험 AI 응용에 대한 영향 평가 요구, 연방 AI 감독 기관 설립, 훈련 데이터 공개 의무화 제안이 포함된다. 특히 캘리포니아와 콜로라도의 주 차원 이니셔티브도 투명성과 위험 관리 요구 사항을 도입했지만, 이는 크게 다양하다.
규제 기관은 기존 권한 내에서 행동해 왔다. 연방거래위원회는 기만적 AI 관행을 조사했고, 고용기회균등위원회는 알고리즘 채용에 대한 지침을 발표했으며, 소비자금융보호국은 대출에서의 AI 사용을 다루었다. 이러한 조치는 통일된 연방 법령보다는 부문별 접근 방식을 반영한다.
국제 협력 및 과제
미국 AI 안전 노력은 국제 협력과 밀접하게 연결되어 있다. 미국은 2024년에 영국, 유럽연합 및 기타 국가들을 포함하여 출범한 국제 AI 안전 연구소 네트워크에 참여한다. 이 네트워크는 공동 테스트 연습과 모범 사례 공유를 촉진한다. 미국은 또한 G7과 유엔 같은 다자간 포럼에 참여하여 공통 안전 원칙을 옹호한다.
과제는 여전히 상당하다. AI 개발의 빠른 속도는 종종 규제 프로세스를 앞지르며, 미국 거버넌스의 분산적 특성은 연방 지침이 모든 행위자에게 적용되지 않을 수 있음을 의미한다. 또한 Deep learning과 강화 학습을 통해 진화할 수 있는 시스템에 대해 '안전'을 정의하고 측정하는 방법에 대한 논쟁이 계속되고 있다. 2025년 현재, 미국은 Artificial intelligence 혁신 촉진과 공공 복지 보호의 필요성 사이의 균형을 맞추며 접근 방식을 계속 다듬고 있다.