미국 AI 권리장전은 2022년 10월 백악관 과학기술정책실이 발표한 비구속적 정책 청사진이다. 이 문서는 인공지능 시스템의 설계, 사용, 배포를 안내하기 위한 다섯 가지 원칙을 제시하며, 여러 분야에서 인공지능 채택이 증가하는 상황에서 시민권, 시민 자유, 민주적 가치를 보호하는 것을 명시적 목표로 삼는다. 문서의 공식 명칭은 "AI 권리장전 청사진: 자동화 시스템이 미국 국민을 위해 작동하도록 하기"이다.
이 청사진은 정부와 국제 기구가 AI에 대한 윤리적 지침을 수립하려는 더 넓은 정책 맥락에서 등장했다. 2016년 이후 전 세계적으로 수많은 AI 윤리 프레임워크가 발표되었으며, 여기에는 IEEE의 윤리적 정렬 설계와 OECD의 AI 원칙이 포함된다. 그러나 미국 AI 권리장전은 권리 기반 보호에 대한 명시적 초점과 자동화 시스템의 공공 및 민간 부문 사용 모두에 적용된다는 점에서 주목할 만하다.
배경 및 개발
AI 권리장전의 개발은 2021년 백악관 과학기술정책실이 일련의 공개 협의와 정보 요청에 따라 시작했다. 이 작업은 당시 부국장이었던 알론드라 넬슨이 주도했으며, 그녀는 알고리즘 차별과 프라이버시 침해를 포함한 AI의 피해를 해결할 필요성을 강조했다. 청사진은 2022년 10월, 이후 AI 규제에 대한 공개 논쟁을 격화시킨 ChatGPT와 같은 생성형 AI 도구의 공개 출시 직전에 발표되었다.
이 문서는 2022년 국가 인공지능 이니셔티브 사무소의 보고서에 기반을 두었으며, 프라이버시, 책임성, 안전, 투명성, 공정성, 인간 통제를 포함한 공통 가치를 식별한 2020년 버크만 클라인 센터의 AI 원칙 메타 검토와 같은 이전 작업을 활용했다. 백악관은 또한 초안 작성 과정에서 시민 사회 단체, 산업계 대표, 학계 연구자들과 협력했다.
다섯 가지 원칙
AI 권리장전은 각각 자동화 시스템에 대한 구체적 기대 사항을 수반하는 다섯 가지 핵심 원칙을 제시한다:
- 안전하고 효과적인 시스템: 자동화 시스템은 우려 사항, 위험, 잠재적 영향을 식별하기 위해 다양한 커뮤니티, 이해관계자, 분야 전문가와의 협의를 통해 개발되어야 한다. 시스템은 안전하고 효과적임을 입증하는 배포 전 테스트, 위험 식별 및 완화, 지속적 모니터링을 거쳐야 한다.
- 알고리즘 차별 보호: 자동화 시스템의 설계자와 배포자는 알고리즘 차별로부터 개인을 보호하기 위해 선제적이고 지속적인 조치를 취해야 한다. 여기에는 공평한 설계, 영향 평가, 독립적 감사가 포함된다.
- 데이터 프라이버시: 자동화 시스템은 프라이버시 보호를 염두에 두고 구축되어야 하며, 데이터 수집이 필요하고 동의가 정보에 기반하며 개인이 자신의 개인 데이터를 통제할 수 있도록 보장해야 한다.
- 고지 및 설명: 개인은 자동화 시스템이 사용되고 있음을 통지받아야 하며, 시스템이 자신에게 영향을 미치는 결과에 어떻게 기여하는지에 대한 명확하고 시의적절하며 접근 가능한 설명을 제공받아야 한다.
- 인간 대안, 고려 및 대체 수단: 개인은 자동화 시스템을 대신하여 인간 대안을 선택할 수 있어야 하며, 불리한 결과가 발생한 경우 시의적절한 인간 검토와 구제 수단에 접근할 수 있어야 한다.
이러한 원칙은 법적 구속력이 없지만 연방 기관, 민간 기업 및 기타 기관이 자발적으로 채택하도록 돕는 "청사진" 역할을 하기 위한 것이다. 청사진에는 구현을 위한 실질적 지침을 제공하는 기술 동반 문서도 포함된다.
반응 및 영향
AI 권리장전에 대한 반응은 엇갈렸다. 미국시민자유연맹과 같은 옹호 단체는 책임성을 향한 한 걸음으로 청사진을 환영한 반면, 일부 업계 관찰자들은 집행 메커니즘의 부재를 지적했다. 법학자들은 원칙의 자발적 성격이 그 영향을 제한한다고 지적하며, AI 규제에 대한 연성 법적 접근의 효용성에 대한 더 넓은 논쟁을 반영했다. 대조적으로 일부 논평가들은 청사진이 향후 연방 입법과 기관 규칙 제정에 영향을 미칠 수 있다고 주장했다.
청사진은 이후 정책 논의에서 인용되었으며, 여기에는 연방 기관에 청사진의 원칙을 고려하도록 지시한 바이든 행정부의 2023년 안전하고 보안적이며 신뢰할 수 있는 인공지능 개발 및 사용에 관한 행정 명령이 포함된다. 캘리포니아와 뉴욕을 포함한 여러 주에서 AI 권리장전을 참조하는 법안이 발의되었지만, 2025년 현재 제정된 것은 없다.
다른 프레임워크와의 비교
미국 AI 권리장전은 위험 기반 분류보다 개인 권리에 중점을 둔다는 점에서 다른 규제 접근 방식과 다르다. 2024년에 채택된 유럽연합의 AI 법은 AI 애플리케이션을 위험 수준별로 분류하고 구속력 있는 의무를 부과하는 법적 프레임워크를 수립한다. 대조적으로 미국 청사진은 비구속적이며 고위험으로 간주되는 시스템뿐만 아니라 모든 자동화 시스템에 광범위하게 적용된다. OECD와 IEEE도 윤리적 지침을 발표했지만 이 역시 자발적이다.
일부 학자들은 청사진의 원칙이 투명성, 공정성, 인간 통제를 포함한 2020년 버크만 클라인 메타 검토에서 식별된 여덟 가지 공통 원칙과 일치한다고 지적했다. 그러나 청사진은 군사 또는 국가 안보 응용을 다루지 않으며, 이는 일부 전문가들이 비판한 한계이다.
유산 및 향후 방향
2025년 현재 AI 권리장전은 미국 AI 정책의 기초 문서로 남아 있지만, 그 실질적 영향은 여전히 평가 중이다. 대규모 언어 모델과 생성형 AI의 급속한 발전은 알고리즘 편향과 프라이버시와 같은 청사진이 다루는 문제에 대한 우려를 증폭시켰다. 일부 정책 입안자들은 원칙을 법으로 성문화할 것을 촉구하는 반면, 다른 이들은 더 유연한 접근을 주장한다.
청사진은 또한 국제적 논의에 영향을 미쳤으며, 다른 국가들이 자체 AI 거버넌스 프레임워크를 개발하면서 그 원칙을 검토하고 있다. 그러나 집행 메커니즘의 부재와 문서의 자발적 성격은 이해관계자들 사이에서 계속해서 논쟁의 대상이 되고 있다.