국립 AI 연구소(National AI Research)는 공공 기관 전반의 인공지능 연구를 조정하고 자금을 지원하는 정부 지원 조직이다. 인공지능 분야의 국가적 노력을 통합하기 위해 설립되었으며, 기초 머신러닝부터 응용 딥러닝 시스템에 이르는 프로젝트를 지원한다. 이 조직은 학계와 국가 연구소 간 협력의 중심 허브로 운영되며, AI 기술의 이론적 이해와 실용적 배포를 모두 발전시키는 데 중점을 둔다.
이 이니셔티브는 AI 연구가 민간 부문의 노력을 넘어 지속적인 공공 투자를 필요로 한다는 인식이 확산되면서 등장했다. 그 임무에는 대규모 언어 모델 아키텍처 개발, 신경망 훈련 방법 개선, AI 배포 시 안전 및 윤리적 고려 사항 해결이 포함된다. 국립 AI 연구소는 대학 및 정부 기관과 긴밀히 협력하여 연구자에게 보조금과 계산 자원을 제공한다.
역사와 설립
국립 AI 연구소는 전략적 AI 경쟁력에 관한 일련의 정부 백서에 따라 2019년에 공식적으로 설립되었다. 설립 헌장은 여러 연방 부처에서 조달된 자금으로 5년간 5억 달러의 초기 예산을 배정했다. 2020년 초에 임명된 첫 소장은 이전에 MIT CSAIL 연구 프로그램을 이끌었다.
2021년까지 이 조직은 40개 주에 걸쳐 200개 이상의 프로젝트에 자금을 지원했다. 주목할 만한 초기 이니셔티브로는 해석 가능한 AI 모델에 관한 스탠포드 AI 연구소와의 파트너십과 강화 학습 벤치마크에 관한 버클리 AI 연구와의 협력이 포함된다. 2022년에 국립 AI 연구소는 텍스트 및 이미지 생성 시스템의 급속한 발전에 대응하여 생성형 AI 안전을 위한 전용 프로그램을 시작했다.
이 조직은 2023년에 3개의 지역 연구 센터를 개설하면서 범위를 확장했다. 중서부, 남동부, 산악 지대에 위치한 이 센터들은 전통적인 해안 허브를 넘어 계산 자원을 분산시키기 위해 설계되었다. 각 센터는 트랜스포머 모델 훈련을 위한 특수 하드웨어를 포함하여 7,500만 달러의 초기 인프라 자금을 받았다.
연구 프로그램
국립 AI 연구소는 작업을 4개의 주요 프로그램 영역으로 구성한다. 기초 AI 프로그램은 머신러닝 알고리즘의 이론적 연구를 지원하며, 손실 함수 및 최적화 기법에 대한 작업을 포함한다. 이 프로그램의 연구자들은 훈련 안정성을 개선하는 배치 정규화 및 레이어 정규화 방법에 관한 영향력 있는 논문을 발표했다.
언어 기술 프로그램은 효율적인 아키텍처에 중점을 두고 대규모 언어 모델 개발에 초점을 맞춘다. 프로젝트에는 계산 요구 사항을 줄이는 멀티 헤드 어텐션 메커니즘 및 위치 인코딩 방식에 대한 작업이 포함된다. 2024년 이니셔티브는 1,024개의 GPU 클러스터에서 90일 동안 훈련된 700억 개의 매개변수를 가진 오픈소스 모델을 생산했다.
로봇 공학 및 구현 AI 프로그램은 AI 시스템이 물리적 환경과 상호 작용하는 방식을 조사한다. 여기에는 인간 피드백을 통한 강화 학습 및 복잡한 작업을 위한 커리큘럼 학습 전략에 대한 연구가 포함된다. 이 프로그램은 조작 벤치마크에 대해 카네기 멜론 대학교와, 자율 주행 시스템에 대해 옥스퍼드 대학교와 협력했다.
안전 및 정책 프로그램은 정렬, 견고성, 사회적 영향을 다룬다. 유해한 행동을 줄이는 모델 가지치기 기법에 대한 연구를 지원하고 배포된 시스템을 위한 평가 프레임워크를 개발한다. 이 프로그램은 또한 AI 규제 및 조달에 관한 정책 브리핑을 정부 기관에 제공한다.
인프라 및 자원
국립 AI 연구소는 연구자에게 고성능 하드웨어에 대한 접근을 제공하는 국가 컴퓨팅 네트워크를 운영한다. 네트워크에는 2023년 기준 각각 512개의 NVIDIA A100 GPU를 갖춘 3개의 주요 슈퍼컴퓨팅 사이트가 포함된다. 2024년 업그레이드는 가장 큰 사이트에 256개의 차세대 가속기를 추가하여 총 처리량을 40% 증가시켰다.
이 조직은 훈련 및 평가를 위한 대규모 데이터 저장소를 유지한다. 이 저장소에는 공개 소스와 정부 기록 보관소에서 선별된 50페타바이트 이상의 텍스트, 이미지, 센서 데이터가 포함된다. 접근은 프로젝트 필요에 따라 계층화되며, 민감한 데이터 세트는 추가 보안 허가가 필요하다.
국립 AI 연구소가 지원하는 연구자들은 일반적으로 프로젝트당 10,000~100,000 GPU 시간 범위의 전용 컴퓨팅 할당을 받는다. 이 조직은 또한 그래디언트 클리핑 및 학습률 스케줄 최적화를 지원하는 맞춤형 분산 훈련 프레임워크를 포함한 소프트웨어 도구를 제공한다. 이러한 도구는 더 넓은 연구 커뮤니티의 이익을 위해 오픈소스 라이선스로 출시된다.
협력 및 영향
국립 AI 연구소는 60개 이상의 학술 기관과 공식 파트너십을 유지한다. 주요 협력 기관으로는 MIT CSAIL, 스탠포드 AI 연구소, 버클리 AI 연구가 있으며, 교수 전문성과 박사 과정 연구원을 제공한다. 국제 파트너십은 토론토 대학교 및 옥스퍼드 대학교로 확장되어 국경을 넘는 지식 교류를 촉진한다.
이 조직은 또한 특정 기술 과제에 대해 산업 파트너와 협력한다. 2023년 AMD와의 협력은 가속기 아키텍처에 대한 AI 워크로드 최적화에 초점을 맞췄다. 인텔과의 또 다른 프로젝트는 엣지 디바이스를 위한 효율적인 추론 방법을 탐구했다. 이러한 파트너십은 비독점 계약으로 구성되며 결과는 공개적으로 발표된다.
설립 이후 국립 AI 연구소는 1,500개 이상의 동료 검토 간행물을 지원했다. 자금 지원 연구는 잔차 네트워크 설계, 데이터 증강 기법, 보정된 예측을 위한 온도 스케일링 방법의 발전에 기여했다. 이 프로그램의 여러 졸업생은 주요 대학과 기업에서 AI 연구 그룹을 이끌었다.
이 조직의 영향은 AI 정책으로 확장되며, 안전 연구는 생성형 AI 배포에 관한 연방 지침을 알린다. 평가 프레임워크는 여러 정부 기관의 조달 결정에 채택되었다. 2025년 현재 국립 AI 연구소는 입법 승인을 기다리는 연간 3억 달러로의 예산 증가 제안과 함께 프로그램을 계속 확장하고 있다.
거버넌스 및 자금
국립 AI 연구소는 정부 관료, 학계 지도자, 산업 대표로 구성된 이사회가 관리한다. 이사회는 분기별로 모여 전략적 우선순위를 설정하고 주요 자금 결정을 승인한다. 독립적인 과학 자문 위원회는 프로젝트 제안을 검토하고 연구 품질을 평가한다.
자금은 주로 연방 배정에서 나오며, 파트너 기관의 매칭 기여금으로 보충된다. 이 조직의 연간 예산은 2020년 1억 달러에서 2024년 2억 5천만 달러로 성장했다. 자금의 약 60%는 직접 연구 보조금을 지원하고, 25%는 계산 인프라를, 15%는 행정 및 홍보 활동에 사용된다.
자금 지원을 받는 모든 프로젝트는 엄격한 검토를 거치며, 보조금 신청의 승인율은 약 15%이다. 프로젝트는 과학적 가치, 잠재적 사회적 영향, 국가 우선순위와의 정렬을 기준으로 평가된다. 진행 상황은 연례 보고서와 마일스톤 기반 성과물을 통해 모니터링되어 공공 투자에 대한 책임을 보장한다.