국가 인공지능 이니셔티브는 인공지능(AI)의 촉진과 규제를 위한 조정된 공공 부문 전략 및 프로그램이다. 이러한 이니셔티브는 전 세계 정부가 혁신을 촉진하면서 위험에 대응하기 위해 채택한 정책 프레임워크, 윤리 지침, 법적 조치를 포함한다. 2016년 이후, 기술에 대한 사회적 통제를 유지하기 위해 수많은 AI 윤리 지침이 발표되었으며, AI를 배포하는 조직은 신뢰할 수 있는 AI를 조성하고 원칙을 준수하며 위험 완화에 대한 책임을 지는 데 중심적인 역할을 한다. 유럽 연합은 2024년 AI 법(AI Act)을 통해 AI에 대한 공통 법적 프레임워크를 채택했다.
AI 거버넌스는 정책, 산업, 학계 맥락에서 사용되는 용어로, AI 시스템이 어떻게 지시되고 감독되는지를 설명한다. 2025년 체계적 문헌 검토는 이를 AI 시스템에 대해 누가 책임을 지는지, 어떤 요소가 관리되는지, 개발 수명 주기 내에서 거버넌스가 언제 발생하는지, 그리고 프레임워크, 도구 또는 모델을 통해 어떻게 구현되는지에 대한 질문을 포괄하는 것으로 정의했다. Charlotte Stix는 "신뢰할 수 있는 AI", "책임 있는 AI", "윤리적 AI"를 포함한 관련 용어가 시간이 지남에 따라 의미가 바뀌었으며 종종 상호 교환적으로 사용된다고 언급했다.
배경
기계 윤리(machine ethics)의 개념은 1987년 Mitchell Waldrop이 AI Magazine에 게재한 기사로 거슬러 올라간다. 인공지능 발전 협회(Association for the Advancement of Artificial Intelligence)는 2005년 기계 윤리에 관한 심포지엄을 개최했다. 2019년까지 Anna Jobin, Marcello Ienca, Effy Vayena는 전 세계에서 발표된 84개의 AI 윤리 지침 세트를 식별했으며, 그중 88%가 2016년 이후에 출시되었다. 이러한 지침은 투명성, 정의, 무해성, 책임, 프라이버시의 다섯 가지 원칙에 대한 합의를 보여주었다. AI 파트너십(Partnership on AI)은 2016년 Apple, Amazon, Google, Facebook, IBM, Microsoft에 의해 설립되었다. IEEE는 2016년 자율 및 지능형 시스템 윤리에 관한 글로벌 이니셔티브를 시작했으며, 2019년 윤리적으로 정렬된 설계(Ethically Aligned Design)를 발표했다.
스탠퍼드 대학의 2025년 AI 지수(AI Index)에 따르면, 75개국에서 AI 관련 입법 언급이 2023년 이후 21.3% 증가하여 2016년 이후 9배 증가를 기록했다. 미국 연방 기관은 2024년 59개의 AI 관련 규정을 도입했으며, 이는 2023년의 두 배 이상이다. 2024년에는 45개 주에서 거의 700개의 AI 관련 법안이 발의되었으며, 이는 2023년의 191개에서 증가한 수치이다.
규제 환경
현재 AI 규제의 정도나 메커니즘에 대한 광범위한 합의는 없다. Elon Musk, Sam Altman, Dario Amodei, Demis Hassabis를 포함한 여러 저명한 인물이 즉각적인 규제를 공개적으로 촉구했다. 2023년, GPT-4의 생성 이후 Musk와 다른 사람들은 더 강력한 AI 시스템 훈련의 유예를 촉구하는 공개 서한에 서명했다. Mark Zuckerberg와 Marc Andreessen과 같은 다른 사람들은 선제적 규제가 혁신을 억압할 위험에 대해 경고했다.
여론은 국가에 따라 다르다. 2022년 Ipsos 설문 조사에 따르면 중국 시민의 78%가 "AI를 사용하는 제품과 서비스가 단점보다 이점이 더 많다"에 동의한 반면, 미국인은 35%만 동의했다. 또 다른 Ipsos 여론 조사에 따르면 미국인의 61%가 AI가 인류에게 위험을 제기한다는 데 동의하고 22%는 동의하지 않는다.
국제 정상 회의는 조정의 플랫폼이 되었다. 영국은 2023년 AI 안전 정상 회의(AI Safety Summit)로 일련의 회의를 시작했으며, 2024년 AI 서울 정상 회의(AI Seoul Summit), 2025년 파리 AI 행동 정상 회의(AI Action Summit), 2026년 뉴델리 AI 영향 정상 회의(AI Impact Summit)가 뒤를 이었다.
거버넌스 접근 방식
AI 규제는 경성 법률(hard law)과 연성 법률(soft law) 제안을 모두 포함한다. 경성 법률 접근 방식은 전통적인 법률이 빠르게 진화하는 기술을 따라잡을 수 없는 "속도 문제(pacing problem)"와 AI 응용의 다양성이 제한된 관할 범위를 가진 기존 규제 기관에 도전을 제기하는 등 상당한 어려움에 직면한다. 연성 법률 접근 방식은 유연성을 제공하지만 종종 집행 가능성이 부족하다.
Cason Schmit, Megan Doerr, Jennifer Wagner는 지적 재산권(즉, 카피레프트 라이선싱)을 AI 모델과 훈련 데이터 세트에 활용하고 지정된 기관에 집행 권한을 위임함으로써 준정부 규제 기관을 제안했다. 이를 통해 AI가 윤리적 관행 준수를 요구하는 조건으로 라이선스될 수 있다. Encode AI와 같은 청년 조직도 더 엄격한 규제와 공공-민간 파트너십을 촉구하는 의제를 발표했다.
2020년 Berkman Klein Center의 기존 원칙(예: Asilomar 원칙 및 베이징 원칙)에 대한 메타 검토는 프라이버시, 책임, 안전 및 보안, 투명성 및 설명 가능성, 공정성 및 비차별, 인간의 기술 통제, 전문적 책임, 인간 가치 존중의 여덟 가지 기본 원칙을 식별했다.
정책 영역
AI 법률 및 규정은 자율 지능 시스템의 거버넌스, 책임 및 설명 책임, 프라이버시 및 안전 문제의 세 가지 주요 주제로 나뉜다. 공공 행정 접근 방식은 AI 법률, AI 윤리, 그리고 인력 대체 및 변환, 사회적 수용 및 신뢰, 인간-기계 상호 작용의 변환으로 정의되는 "AI 사회" 사이의 관계를 본다. 공공 부문 전략의 개발은 공공 서비스 관리, 법 집행, 의료(특히 인간 보장(Human Guarantee) 개념), 금융, 로봇 공학, 자율 주행 차량, 군사 및 국가 안보, 국제법을 포함한 분야에서 지역, 국가, 국제 수준에서 필요하다고 간주된다.
Henry Kissinger, Eric Schmidt, Daniel Huttenlocher는 2021년 11월 "AI 시대의 인간으로서"라는 제목의 공동 성명을 발표하여 AI를 규제할 정부 위원회를 촉구했다. 2025년 연구에 따르면 경쟁법과 규제 기관은 AI의 승자 독식 시장을 방지하는 데 어려움을 겪고 있다.
미래 방향
국가 이니셔티브는 계속 진화하며, 더 포괄적이고 집행 가능한 프레임워크로의 추세를 보인다. 유럽 연합의 AI 법은 구속력 있는 규제를 향한 중요한 단계를 나타낸다. AI 기술이 Machine learning 및 Large language model 시스템의 발전을 포함하여 진보함에 따라, 정부는 혁신과 사회적 안전 장치의 균형을 맞추기 위해 전략을 개선할 가능성이 높다. OpenAI 및 Google DeepMind 연구 커뮤니티와 같은 정상 회의와 조직을 통한 국제 협력은 글로벌 거버넌스 환경을 형성할 것이지만, 변화의 속도는 여전히 불확실하다.