콜로라도 AI 법(Colorado AI Act)은 2024년 콜로라도주에서 제정된 소비자 보호법으로, 고위험 인공지능 시스템의 사용을 규제한다. 이 법은 AI 의사 결정에서 알고리즘 차별을 다루는 것을 목표로 하는 미국 최초의 포괄적인 주 차원의 법령 중 하나이다. 이 법은 고용, 주택, 교육, 금융 서비스 등에 영향을 미치는 소비자에 대한 중대한 결정을 내리는 AI 시스템의 개발자와 배포자 모두에게 의무를 부과한다.
이 법은 "고위험 AI 시스템"을 중대한 결정을 내리거나 그러한 결정을 내리는 데 중요한 요소가 되는 모든 AI 시스템으로 정의한다. 중대한 결정에는 채용, 승진, 신용, 보험, 공공 시설 이용 등 소비자에게 중대한 영향을 미치는 결정이 포함된다. 이 법은 사기 방지, 사이버 보안, 내부 업무 운영 등 특정 제한된 목적으로만 사용되는 AI 시스템에는 적용되지 않지만, 그러한 시스템이 소비자에게 중대한 영향을 미치는 경우에는 적용된다.
배경 및 입법 맥락
콜로라도주의 입법 노력은 인공지능, 특히 머신러닝과 생성형 AI 분야에서 AI의 사회적 영향에 대한 대중의 우려가 커지는 가운데 등장했다. 연방 차원의 AI 규제가 분산된 상태에서 여러 주가 자체 규칙을 제안하기 시작했다. 콜로라도주의 법은 2024년 입법 회기에서 도입되어 초당적 지지를 받아 통과되었으며, 이는 주 차원의 AI 거버넌스라는 더 넓은 추세를 반영한다.
이 법은 2024년 5월 17일 자레드 폴리스 주지사가 서명하여 콜로라도주가 포괄적인 AI 차별 금지법을 제정한 첫 번째 주가 되었다. 이 법은 2026년 2월 1일부터 시행될 예정이며, 이해관계자들이 준비할 시간을 확보할 수 있게 되었다.
주요 조항
개발자 의무
고위험 AI 시스템의 개발자는 알고리즘 차별의 알려진 또는 예측 가능한 위험으로부터 소비자를 보호하기 위해 합리적인 주의를 기울여야 한다. 개발자는 다음을 포함하는 위험 관리 프레임워크를 구현해야 한다:
- AI 개발을 감독하기 위한 거버넌스 구조 수립.
- 설계, 훈련, 테스트 프로세스 문서화.
- 잠재적인 차별적 결과를 식별하기 위한 영향 평가 실시.
- 시스템의 기능과 한계에 대한 정보를 배포자에게 제공.
개발자는 또한 시스템의 의도된 용도와 알려진 한계에 대한 설명을 포함하여 법률 준수에 필요한 정보를 배포자에게 제공해야 한다.
배포자 의무
고위험 AI 시스템을 사용하는 주체인 배포자도 위험 관리 프레임워크를 구현해야 한다. 배포자는 다음을 수행해야 한다:
- 고위험 AI 시스템을 배포하기 전에 영향 평가 실시.
- 중대한 결정에 AI 시스템이 사용될 때 소비자에게 통지.
- 소비자에게 불리한 결정에 대해 이의를 제기하고 인간 검토를 요청할 기회 제공.
- AI 시스템 사용 및 영향 평가 기록을 최소 3년간 보관.
배포자는 또한 사용된 논리와 차별 가능성을 포함하여 AI 시스템의 성격과 의사 결정 프로세스를 소비자에게 공개해야 한다.
집행 및 제재
콜로라도주 법무장관은 이 법을 집행할 독점적 권한을 가진다. 이 법은 개인이 직접 소송을 제기할 수 있는 민간 소송권을 창설하지 않는다. 대신 법무장관이 위반 사항을 조사하고 민사 소송을 제기할 수 있으며, 금지 명령과 위반 건당 최대 50,000달러, 일련의 위반에 대해 최대 500,000달러의 민사 벌금을 구할 수 있다.
영향 평가
이 법의 핵심 요구 사항은 영향 평가의 수행이다. 이러한 평가는 AI 시스템의 목적, 의도된 용도, 알고리즘 차별 가능성을 평가해야 한다. 또한 시스템의 설계, 훈련 데이터, 검증 방법, 배포 후 모니터링 및 완화 조치도 고려해야 한다.
영향 평가는 AI 시스템 또는 그 사용에 중대한 변경이 있을 때 업데이트되어야 한다. 배포자는 평가를 최소 3년간 보관하고 법무장관이 요청할 경우 제공해야 한다.
면제 및 안전 조항
이 법에는 여러 면제 조항이 포함되어 있다. 직원이 50명 미만이고 연간 25,000명 이하의 소비자에 대한 중대한 결정에 AI 시스템을 사용하지 않는 소기업은 특정 요구 사항에서 면제되지만, 기본적인 투명성 의무는 여전히 준수해야 한다.
또한 이 법은 법률 준수를 위해 합리적인 주의를 기울인 개발자와 배포자에게 안전 조항을 제공한다. 그러한 주의에도 불구하고 위반이 발생한 경우, 법무장관은 해당 주체가 통지 후 60일 이내에 위반을 시정한다면 집행을 추진하지 않기로 선택할 수 있다.
다른 법률과의 관계
콜로라도 AI 법은 다른 주 또는 연방 법률을 선점하지 않는다. 이 법은 민권법(Civil Rights Act)과 공정 주택법(Fair Housing Act)과 같은 기존의 차별 금지 법령을 보완하도록 설계되었다. 이 법은 민간 소송권을 창설하지 않는다고 명시적으로 밝히지만, 개인이 다른 적용 가능한 법률에 따라 청구를 제기하는 것을 방해하지는 않는다.
이 법에는 또한 법무장관이 법률을 시행하기 위한 규칙을 채택할 수 있도록 하는 조항이 포함되어 있지만, 2025년 초 현재 그러한 규칙은 확정되지 않았다.
업계 반응
기술 무역 협회를 포함한 기업 단체들은 엇갈린 반응을 보였다. 일부는 법률이 명확성과 준수 프레임워크를 제공한다고 칭찬한 반면, 다른 일부는 과도하게 부담스럽고 기존 규정과 중복된다고 비판했다. 소비자 옹호 단체들은 일반적으로 이 법을 지지하며, AI 기반 차별로부터 취약 계층을 보호하는 데 필요한 조치로 보았다.
OpenAI와 Anthropic과 같은 주요 AI 개발자를 포함한 여러 기업은 책임 있는 AI 규제에 대한 지지를 공개적으로 표명했지만, 주 법률의 파편화를 피하기 위해 연방 표준을 요구하기도 했다. 이 법이 더 넓은 AI 산업에 미치는 영향은 아직 지켜봐야 하지만, 다른 주에서도 유사한 법안에 영향을 미칠 가능성이 높다.
시행 일정
이 법은 2024년 5월에 서명되었으며, 시행일은 2026년 2월 1일이다. 이 긴 일정은 개발자와 배포자가 관행을 조정할 충분한 시간을 갖도록 의도된 것이다. 콜로라도주 법무장관실은 시행일 이전에 기업들이 의무를 이해할 수 있도록 지침을 발표할 것이라고 밝혔다.
향후 전망
콜로라도 AI 법은 AI 거버넌스의 중요한 이정표를 나타낸다. 대규모 언어 모델과 기타 AI 기술이 일상생활에 더욱 통합됨에 따라 명확한 법적 프레임워크의 필요성이 커지고 있다. 알고리즘 차별에 초점을 맞춘 이 법은 다른 관할권에 선례를 설정하며, 연방 입법의 모델이 될 수 있다. 그러나 그 성공은 효과적인 집행과 AI 개발에서 투명성과 공정성을 수용하려는 기업들의 의지에 달려 있다.