미국 국립표준기술연구소(NIST)는 인공지능 안전성과 신뢰성을 위한 포괄적인 프로그램을 개발해 온 미국 연방 기관이다. NIST AI는 조직이 AI 시스템과 관련된 위험을 관리하도록 돕기 위해 설계된 일련의 자발적 프레임워크, 표준, 테스트 자원을 포함한다. 이 기관의 이러한 분야에서의 작업은 2023년 '안전하고 보안되며 신뢰할 수 있는 인공지능 개발 및 사용에 관한 행정명령' 이후 큰 추진력을 얻었으며, 이 명령은 NIST가 AI 안전 분야의 연방 노력을 주도하도록 지시했다.
NIST의 주요 기여는 2023년 1월에 처음 발표된 AI 위험 관리 프레임워크(AI RMF)이다. 이 프레임워크는 조직이 AI 수명주기 전반에 걸쳐 위험을 식별, 평가, 완화할 수 있는 구조화된 접근 방식을 제공한다. 이는 Govern, Map, Measure, Manage라는 네 가지 핵심 기능을 중심으로 구성되며, 자발적이고 다양한 분야에 적용 가능하도록 설계되었다. 이 프레임워크는 유효성, 신뢰성, 안전성, 보안, 복원력, 책임성, 투명성, 공정성과 같은 원칙을 강조한다.
AI RMF 및 관련 간행물
AI RMF 1.0은 공개 의견 수렴과 워크숍을 포함한 다중 이해관계자 과정을 거쳐 2023년 1월 26일에 발표되었다. NIST는 이후 2024년 7월에 Generative AI 시스템과 Large language model이 제기하는 고유한 위험을 다루는 AI RMF 생성형 AI 프로필을 발표했다. 이 프로필은 환각, 유해한 편향, 오용 가능성과 같은 문제를 다룬다. NIST는 또한 AI를 위한 안전한 소프트웨어 개발과 AI 사고 분류에 관한 동반 문서를 발표했다.
RMF 외에도 NIST는 여러 다른 AI 관련 간행물을 발행했다. AI RMF 플레이북은 프레임워크 구현을 위한 실질적인 지침을 제공한다. NIST는 또한 2024년 3월에 발표된 적대적 머신러닝(AML) 분류 체계를 개발했으며, 이는 Machine learning 시스템에 대한 공격을 분류하고 완화 전략을 제공한다. 이러한 자원은 산업, 학계, 정부 전반의 AI 개발자, 배포자, 평가자가 사용하도록 설계되었다.
테스트 및 평가 프로그램
NIST는 AI 시스템 성능과 안전성을 평가하기 위한 지표와 방법을 개발하는 것을 목표로 하는 AI 테스트, 평가, 검증 및 확인(TEVV) 프로그램을 운영한다. 여기에는 AI 역량 평가를 위한 테스트베드와 벤치마크 데이터셋 구축이 포함된다. 2024년에 NIST는 상무부 산하에 설립된 미국 AI 안전 연구소(AISI)를 출범시켰으며, NIST가 기술적 리더십을 제공한다. AISI는 AI 안전에 관한 연구를 수행하고, 테스트 프로토콜을 개발하며, 국제 파트너와 협력한다.
주목할 만한 이니셔티브 중 하나는 생성형 AI 기술을 평가하는 데 초점을 맞춘 GenAI 프로그램이다. 이 프로그램은 AI 생성 콘텐츠의 품질, 안전성, 신뢰성을 평가하기 위한 측정 도구를 개발한다. NIST는 또한 AI 위험에 대한 과학적 지식을 종합하는 글로벌 노력인 국제 AI 안전 보고서에도 참여한다.
표준 및 국제 협력
NIST는 국제표준화기구(ISO) 및 국제전기기술위원회(IEC)와 같은 조직과의 협력을 통해 국제 AI 표준 개발에서 핵심적인 역할을 한다. NIST는 AI 관리 시스템에 관한 ISO/IEC 42001 표준과 AI 위험 관리에 관한 ISO/IEC 23894 표준에 기여한다. 이 기관은 또한 국가 사이버보안 우수 센터(NCOE)와 협력하여 AI 안전을 더 넓은 사이버보안 관행에 통합한다.
NIST의 AI 작업은 Artificial intelligence 및 Deep learning 분야의 더 넓은 연구에 기반을 둔다. 이 기관의 정보 기술 연구소는 컴퓨터 비전, 자연어 처리, Neural network 견고성과 같은 분야에서 기초 연구를 수행한다. 이러한 연구는 실용적인 지침과 테스트 방법 개발에 기여한다.
도전 과제 및 향후 방향
NIST AI는 급속한 기술 발전에 보조를 맞추는 데 지속적인 도전에 직면해 있다. AI RMF의 자발적 특성상 채택이 의무적이지는 않지만, 연방 기관은 점점 더 이에 부합하도록 요구받고 있다. NIST는 AI 기반 사이버 공격, 개인정보 보호 위험, AI 훈련의 환경 영향과 같은 새로운 문제를 해결하기 위해 지침을 계속 업데이트하고 있다. 2025년 현재, NIST는 의료 및 금융을 포함한 특정 분야를 위한 추가 프로필을 개발하고 있으며, 최첨단 AI 모델에 대한 테스트 역량을 확장하고 있다.
이 기관의 작업은 MIT CSAIL 및 Stanford AI Lab과 같은 학술 기관 및 산업 파트너와의 협력을 통해 보완된다. NIST는 또한 AI 시스템이 종종 국경을 넘어 운영된다는 점을 인식하고, AI 안전 표준을 글로벌 차원에서 조화시키기 위해 국제 기구와 협력한다.
AI 생태계에 미치는 영향
NIST AI 프레임워크는 조직이 AI 거버넌스에 접근하는 방식을 변화시켰다. OpenAI, Anthropic, Google DeepMind를 포함한 주요 기술 기업들은 안전 관행에서 AI RMF를 참조했다. 이 프레임워크는 또한 정부 기관과 유럽연합의 AI 법과 같은 국제 파트너에 의해 채택되었으며, 이는 유사한 위험 기반 원칙을 활용한다. 측정 가능하고 테스트 가능한 기준에 대한 NIST의 강조는 AI 산업을 더 엄격한 평가 관행으로 전환시키는 데 도움이 되었다.
자발적 특성에도 불구하고, NIST AI는 미국과 그 너머에서 AI 안전 논의의 사실상의 기준점이 되었다. 그 간행물은 학술 문헌과 산업 보고서에서 널리 인용되며, 테스트 프로그램은 AI 시스템 평가를 위한 중립적인 장을 제공한다. AI 역량이 계속 진화함에 따라, 특히 자율 시스템과 AI 기반 의사 결정 분야에서 안전 표준을 정의하는 NIST의 역할은 확장될 가능성이 높다.