미국 AI 권리장전 청사진은 2022년 10월 백악관 과학기술정책실이 발표한 정책 문서로, 시민 권리와 민주적 가치를 보호하기 위해 인공지능 시스템의 설계, 사용 및 배포를 안내하기 위한 다섯 가지 원칙을 제시한다. 이 청사진은 법이 아닌 비구속적 프레임워크로, AI 기술을 개발하는 연방 기관, 민간 기업 및 연구자에게 참고 자료 역할을 한다.
이 문서는 수년간의 윤리 지침과 규제 제안에 이어 AI 거버넌스에 대한 전 세계적 관심이 높아지는 가운데 등장했다. 이는 머신러닝 알고리즘과 관련된 편향, 프라이버시 침식, 투명성 부족 등의 위험을 해결하려는 미국의 광범위한 정책 전환을 반영한다. 청사진은 집행력을 갖추지는 못하지만, 이후 연방 차원의 AI 규제 논의와 기관 관행에 영향을 미쳤다.
다섯 가지 원칙
청사진은 다섯 가지 핵심 원칙을 중심으로 한다. 첫째, 안전하고 효과적인 시스템: AI는 다양한 커뮤니티의 의견을 수렴하여 개발되고, 배포 전 테스트를 거치며, 배포 후 피해를 모니터링해야 한다. 둘째, 알고리즘 차별 보호: 시스템은 인종, 성별, 종교 또는 기타 보호 특성에 기반한 부당한 대우를 방지하는 방식으로 설계되고 사용되어야 한다.
셋째, 데이터 프라이버시: 개인은 자신의 데이터에 대한 통제권을 가져야 하며, 남용적인 데이터 관행에 대한 보호와 의미 있는 동의 메커니즘이 제공되어야 한다. 넷째, 고지 및 설명: 사람들은 자신에게 영향을 미치는 결정에 AI가 사용된다는 사실을 알고 결과에 대한 명확한 설명을 받아야 한다. 다섯째, 인간 대안 및 폴백: 개인은 중대한 결정에 대해 인간 검토 절차에 접근할 수 있어야 하며, 적절한 경우 자동화 시스템을 선택 해제할 수 있는 옵션이 있어야 한다.
개발 및 배경
청사진은 당시 소장이었던 알론드라 넬슨의 지도 아래 백악관 과학기술정책실에서 개발되었다. 이는 시민 사회 단체, 산업계 이해관계자 및 학계 연구자들의 피드백을 포함한 공공 의견을 수렴하여 작성되었다. 발표 시기는 생성형 AI와 대규모 모델의 발전 이후 AI 역량에 대한 대중의 우려가 높아진 시기와 맞물렸다.
이 문서는 사실 자료와 공개 의견 요청과 함께 발표되었다. 이는 옥스퍼드 대학교 소속 연구자 및 기타 기관들이 원칙을 목록화한 노력과 함께 AI 윤리에 대한 더 넓은 국제적 논의에 미국을 위치시켰다. 2019년 검토에서는 전 세계적으로 84개의 AI 윤리 지침 세트가 확인되었으며, 그중 88%가 2016년 이후 발표되어 투명성, 정의, 무해성, 책임성 및 프라이버시에 대한 합의를 보여주었다.
반응 및 비판
청사진에 대한 반응은 엇갈렸다. 지지자들은 고용, 의료 및 형사 사법과 같은 분야에서 AI 책임성에 대한 연방 차원의 기대치를 설정하는 단계로 평가했다. 시민 권리 단체들은 차별 금지와 프라이버시 보호에 대한 강조를 환영했다. 일부 업계 대표들은 프레임워크의 자발적 성격을 지적하고 더 명확한 기술 표준을 요구했다.
비판자들은 청사진에 집행 메커니즘이 부족하고 특정 규제 공백을 해결하지 못한다고 주장했다. 법학자들은 특히 AI 기술의 급속한 발전을 고려할 때 광범위한 원칙을 운영 요구사항으로 전환하는 데 따르는 어려움을 지적했다. 이 문서는 또한 2024년 공통 법적 프레임워크를 수립한 유럽연합의 이후 AI 법안과 같은 보다 구속력 있는 접근 방식과 대조되는 것으로 간주되었다.
이후 영향
청사진은 AI에 관한 행정 명령과 기관 지침을 포함한 이후 미국 정책 조치에 영향을 미쳤다. 2023년 백악관은 청사진 원칙의 요소를 통합한 안전하고 보안이 보장되며 신뢰할 수 있는 AI에 관한 행정 명령을 발표했다. 고용기회균등위원회와 연방거래위원회와 같은 연방 기관은 알고리즘 공정성에 대한 자체 지침에서 이 프레임워크를 참조했다.
이 프레임워크는 또한 AI 거버넌스에 대한 학계 및 산업계 논의에 기여했다. MIT CSAIL 및 스탠포드 AI 랩과 같은 기관의 연구자들은 책임 있는 AI 개발에 관한 연구에서 이를 인용했다. 청사진은 미국이 더 엄격한 규제를 채택해야 하는지에 대한 논쟁에서 여전히 참조점으로 남아 있으며, 일부 정책 입안자들은 그 원칙을 법으로 성문화하는 법안을 제안하고 있다.
광범위한 거버넌스 환경
청사진은 더 큰 AI 거버넌스 노력 생태계 내에 위치한다. OECD와 IEEE를 포함한 국제 기구는 비구속적 지침을 발표했으며, 각국 정부는 다양한 접근 방식을 추구했다. 영국은 2023년 첫 AI 안전 정상회의를 개최했고, 이후 서울(2024), 파리(2025), 뉴델리(2026)에서 정상회의가 이어졌다. 이러한 회의는 규제의 속도와 범위에 대한 지속적인 의견 차이를 부각시켰다.
미국에서는 AI 관련 입법 활동이 급격히 증가했다. 2024년까지 연방 기관은 전년도의 두 배 이상인 59개의 AI 관련 규정을 도입했다. 2024년에는 45개 주에서 약 700건의 AI 관련 법안이 발의되었으며, 이는 2023년의 191건에서 증가한 수치다. 청사진은 이러한 입법 노력에서 구현 및 집행 방법에 대한 논쟁이 계속되는 가운데 원칙의 기초적 선언으로 자주 인용된다.