공공 AI 기관(Public AI Bodies)은 인공지능의 연구, 개발, 및 거버넌스를 전담하는 정부 및 정부 간 조직이다. 이들 기관은 국가, 지역, 국제 수준에서 운영되며, 인공지능 분야의 민간 기업인 오픈AI이나 앤트로픽과는 달리 공적 임무, 자금 조달 구조, 그리고 시민에 대한 책임성에서 차별화된다. 이들의 활동은 기초 연구 자금 지원, 기술 표준 설정, 규제 체계 구축, AI 기술에 대한 공평한 접근 촉진을 포괄한다.
공공 AI 기관의 등장은 AI의 사회적 영향(노동 시장부터 국가 안보까지)이 조정된 공공 감독을 필요로 한다는 더 넓은 인식을 반영한다. 초기 AI 연구는 MIT 컴퓨터과학·인공지능 연구소나 스탠포드 AI 연구소 같은 대학에 종종 자리 잡았지만, 2020년대 머신러닝과 생성형 AI의 급속한 상업화로 정부가 전담 기관을 설립하게 되었다. 이들 기관은 혁신과 공공 안전의 균형을 맞추는 것을 목표로 하며, 민간 부문의 인센티브가 집단적 복지와 완전히 일치하지 않을 수 있다는 우려를 해결하고자 한다.
역사적 발전
공공 AI 기관의 공식화는 국가 AI 전략이 확산되기 시작한 2017년 이후 가속화되었다. 캐나다는 2017년 범캐나다 인공지능 전략(Pan-Canadian Artificial Intelligence Strategy)을 발표했고, 중국, 프랑스, 영국에서도 유사한 계획이 뒤따랐다. 버클리 AI 연구소는 대학 기반이지만 상당한 공공 자금을 지원받아 이러한 기관들의 혼합적 성격을 보여준다. 2020년까지 30개 이상의 국가가 국가 AI 전략을 발표했으며, 많은 국가가 이를 실행하기 위한 전담 기관이나 위원회를 설립했다.
정부 간 협력은 2020년 6월 캐나다와 프랑스가 출범시킨 글로벌 인공지능 파트너십(GPAI) 같은 기구의 창설로 강화되었다. 2019년 설립된 OECD의 AI 정책 관측소는 회원국 간 정책 분석 및 데이터 공유의 허브 역할을 한다. 2021년 4월 제안되고 2024년 8월 발효된 유럽연합의 AI 법안은 회원국 전역에서 위험 기반 규제를 집행하기 위해 유럽 AI 사무국(European Artificial Intelligence Office)을 창설했다.
핵심 기능
공공 AI 기관은 일반적으로 여러 핵심 기능을 수행한다. 첫째, 이들은 보조금과 조달을 통해 연구에 자금을 지원하며, 종종 AI 안전, 해석 가능성, 공공 보건이나 기후 과학 응용과 같이 민간 투자가 부족하다고 판단되는 분야를 대상으로 한다. 예를 들어, 미국 국립과학재단(NSF)은 2020년에서 2023년 사이 AI 연구소에 5억 달러 이상을 배정했다.
둘째, 이들은 기술 표준과 평가 벤치마크를 개발한다. 미국의 국립표준기술연구소(NIST)는 2023년 1월 신뢰할 수 있는 AI를 위한 자발적 지침을 제공하는 AI 위험 관리 프레임워크를 발표했다. 마찬가지로, 국제전기통신연합(ITU)은 지속 가능한 개발을 위한 AI 응용에 관한 글로벌 표준을 조정하는 AI for Good 정상 회의를 주최한다.
셋째, 이들 기관은 규제와 윤리에 관한 조언을 제공한다. 이들은 백서를 작성하고, 전문가 패널을 소집하며, 법안 초안을 작성한다. 2018년 설립된 영국의 데이터 윤리 및 혁신 센터는 이러한 자문 역할을 보여주는 사례이며, 2019년 설립된 일본의 AI 전략 위원회는 정부 부처 간 정책을 조정한다.
주요 기관
여러 주요 공공 AI 기관이 전 세계적으로 운영되고 있다. 유럽연합 집행위원회의 공동연구센터는 EU 정책에 정보를 제공하기 위해 내부 AI 연구를 수행한다. 중국에서는 2017년 설립된 국가심층학습공정연구실(National Engineering Laboratory for Deep Learning)이 딥러닝 응용에 중점을 둔다. 2020년 출시된 인도의 국가 AI 포털은 AI 이니셔티브를 위한 지식 허브 역할을 한다.
국방 관련 기관도 중요한 역할을 한다. 미국 국방부는 2018년 합동 인공지능 센터(JAIC)를 설립했으며, 2022년 최고 디지털 및 AI 사무소로 개편했다. 영국의 국방과학기술연구소(DSTL)는 군사 응용을 위한 AI 연구를 수행한다. 이들 기관은 카네기멜론대학교와 같은 학술 기관 및 민간 기업과 자주 협력하여 공공-민간 파트너십을 형성한다.
과제와 비판
공공 AI 기관은 여러 지속적인 과제에 직면해 있다. 자금 제약은 종종 민간 부문 급여와 경쟁하는 능력을 제한하여 구글 딥마인드나 아마존 웹 서비스 같은 기업으로의 인재 유출로 이어진다. 관료적 절차는 빠르게 진화하는 기술 분야에서 의사 결정을 늦출 수 있다. 비평가들은 이들 기관이 AI를 촉진하고 규제하는 이중 역할을 할 때 잠재적 이해 충돌이 발생할 수 있다고 지적한다.
책임성과 투명성은 여전히 지속적인 우려 사항이다. 공공 기관은 명목상 시민에게 책임을 지지만, 기술적 복잡성으로 인해 의사 결정이 모호해질 수 있다. 공공 서비스에서 독점 알고리즘의 사용은 공정성과 적법 절차에 대한 논쟁을 촉발했다. 또한, 국가들이 AI 패권을 위해 경쟁하면서 동시에 공통 거버넌스 체계를 추구함에 따라 국제적 조정은 지정학적 경쟁으로 인해 복잡해진다.
향후 방향
앞으로 공공 AI 기관은 ChatGPT와 같은 시스템의 빠른 채택을 고려하여 대규모 언어 모델 거버넌스에 대한 초점을 확대할 가능성이 높다. 많은 기관이 편향, 잘못된 정보, 자율적 능력과 같은 위험을 해결하는 프론티어 모델 평가 프레임워크를 개발 중이다. 유엔은 2023년에 제안된 새로운 국제 AI 거버넌스 기구를 검토 중이며, 이는 2021년 11월 채택된 유네스코의 AI 윤리 권고와 같은 기존 이니셔티브를 기반으로 구축될 것이다.
신흥 분야에는 과학적 발견을 위한 AI가 포함되며, 공공 기관이 약물 개발 및 재료 과학 연구에 자금을 지원한다. 또한, 민간 제공업체에 대한 의존도를 줄이기 위해 AI 연구를 위한 국가 클라우드 서비스와 같은 공공 컴퓨팅 인프라에 대한 관심이 증가하고 있다. AI가 사회에 계속 스며들면서 공공 AI 기관이 그 궤적을 형성하는 역할은 지속적인 투자와 적응형 거버넌스 모델을 요구하며 더욱 중심적이 될 가능성이 높다.