캘리포니아 AI 법안(California AI Bills)은 미국 캘리포니아주에서 인공지능 시스템의 개발과 배포를 규제하기 위한 입법 노력을 통칭하는 용어이다. 글로벌 기술 허브로서 캘리포니아는 AI 정책의 최전선에 서 있으며 있으며, 의원들은 알고리즘 편향, 투명성, 안전, 책임 문제를 다루는 수많은 법안을 도입해 왔다. 이러한 제안들은 빠르게 발전하는 AI 기술을 혁신을 촉진하면서 어떻게 통치할지에 대한 광범위한 논쟁을 반영하며, 국내외의 주목을 받고 있다.
이 중 가장 두드러진 법안은 2024년 2월 상원의원 스콧 위너(Scott Wiener)가 발의한 상원 법안 1047(SB 1047)이다. 이 법안은 훈련 비용이 1억 달러를 초과하거나 컴퓨팅 성능이 특정 기준을 넘는 대규모 AI 모델에 안전 요구 사항을 부과하는 것을 목표로 했다. 개발자에게 안전 프로토콜 구현, 배포 전 테스트 실시, 그리고 준수 감독을 위한 새로운 주 기관인 프런티어 모델 부서(Frontier Model Division) 설립을 요구했을 것이다. SB 1047은 또한 내부고발자 보호 조항과 소규모 개발자를 위한 공공 클라우드 컴퓨팅 옵션을 포함했다. 이 법안은 2024년 5월 캘리포니아 주 상원을 통과했지만, 혁신을 억압하고 비현실적인 부담을 부과할 것이라고 주장하는 기술 기업, 벤처 캐피털리스트, 일부 AI 연구자들의 상당한 반대에 직면했다. 개빈 뉴섬(Gavin Newsom) 주지사는 과잉 규제에 대한 우려와 대규모 모델에 초점을 맞추면서도 잠재적으로 위험한 소규모 시스템을 무시한 점을 이유로 2024년 9월 29일 SB 1047에 거부권을 행사했다.
또 다른 주목할 만한 법안은 2024년에 발의된 하원 법안 2930(AB 2930)으로, 정치 광고에서 AI 생성 콘텐츠의 공개를 요구하는 내용이었다. 이 법안은 AI 생성 이미지, 비디오, 오디오를 사용하는 모든 광고에 명확한 면책 조항을 포함하도록 의무화했을 것이다. AB 2930은 2024년 5월 캘리포니아 주 하원을 통과했고, 이후 2024년 9월 뉴섬 주지사가 서명하여 2025년 1월 1일부터 발효되었다. 이 법은 선거에서 딥페이크와 허위 정보에 대한 우려를 해결하는 것을 목표로 했다.
캘리포니아의 다른 AI 관련 법안으로는 AI 시스템에 투명성 라벨을 요구하는 AB 2011, 자동화된 의사 결정 시스템의 알고리즘 책임을 다루는 SB 892가 있다. 또한 채용 및 고용에 사용되는 AI의 편향에 초점을 맞춘 AB 302는 기업이 영향 평가를 실시하도록 요구했다. 이러한 법안들은 포괄적인 연방 법안이 없는 상황에서 주 차원의 AI 규제라는 더 넓은 추세를 반영한다.
입법 배경 및 동기
캘리포니아의 AI 법안은 특히 인공지능의 대규모 언어 모델과 Generative AI 시스템의 급속한 발전을 배경으로 등장했다. 2023년과 2024년에 OpenAI의 GPT-4와 Anthropic의 Claude와 같은 모델의 출시는 AI의 잠재적 이점과 위험, 특히 허위 정보, 일자리 대체, 실존적 위협에 대한 우려를 입증했다. 의원들은 사전 예방적 규제를 통해 이러한 문제를 해결하고자 했으며, 캘리포니아를 AI 거버넌스의 선두주자로 자리매김하려 했다.
주가 OpenAI, Anthropic, Google DeepMind를 포함한 많은 주요 AI 기업의 본거지라는 점은 이러한 법안의 자연스러운 장소가 되게 했다. 지지자들은 캘리포니아가 2018년 캘리포니아 소비자 개인정보 보호법(CCPA)에서 데이터 프라이버시 분야의 리더십과 유사하게, 국가 및 글로벌 정책에 영향을 미칠 수 있는 기준을 설정할 책임이 있다고 주장했다.
주요 조항 및 논쟁
가장 논란이 많았던 법안인 SB 1047은 AI 커뮤니티 내에서 격렬한 논쟁을 촉발했다. 일부 AI 연구자와 공익 단체를 포함한 지지자들은 이 법안이 고급 AI 시스템으로 인한 치명적 피해를 방지하는 데 필요하다고 주장했다. 그들은 자율 무기, 사이버 공격, 허위 정보 확산과 같은 잠재적 위험을 지적했다. '킬 스위치' 요구 사항과 의무적 안전 감사는 필수적인 안전장치로 여겨졌다.
반면 반대자들은 이 법안이 지나치게 광범위하여 소규모 스타트업과 오픈소스 개발자에게 해를 끼칠 것이라고 주장했다. 비평가들은 1억 달러 기준이 소수의 대기업에만 영향을 미칠 것이지만, 준수 비용은 여전히 엄청날 수 있다고 지적했다. 일부는 모델 크기에 초점을 맞춘 법안이 알고리즘 편향과 프라이버시와 같은 더 시급한 문제를 무시한다고 주장했다. 벤처 캐피털리스트와 진보 회의소(Chamber of Progress)를 포함한 기술 무역 단체는 이 법안에 대해 강력히 로비하며 AI 혁신이 캘리포니아를 떠날 수 있다고 경고했다.
뉴섬 주지사의 거부권 메시지는 보다 균형 잡힌 접근의 필요성을 강조하며, 이 법안이 의도는 좋았지만 의도하지 않은 결과를 초래할 수 있다고 밝혔다. 그는 산업계, 학계, 정책 입안자 간의 협력을 통해 보다 목표 지향적인 규제를 개발할 것을 촉구했다.
영향 및 반응
AB 2930의 통과와 SB 1047의 거부는 미국에서 AI 규제의 분열된 성격을 부각시켰다. 일부는 캘리포니아가 조치를 취한 것을 칭찬했지만, 다른 이들은 산발적인 접근을 비판했다. 주의 AI 법안은 2024년에 채택되어 포괄적인 규제 프레임워크를 제공하는 유럽연합의 AI 법(AI Act)과 비교되었다. EU의 위험 기반 접근과 달리, 캘리포니아의 법안은 특정 우려가 발생할 때 이를 해결하는 더 임시방편적이었다.
SB 1047에 대한 논쟁은 연방 차원의 논의에도 영향을 미쳤다. 2024년 미국 상원은 인공지능 연구, 혁신 및 책임 법(Artificial Intelligence Research, Innovation, and Accountability Act)을 포함한 여러 AI 관련 법안을 도입했지만, 2025년 초까지 통과된 것은 없었다. 캘리포니아의 경험은 AI 법안을 고려한 뉴욕과 텍사스와 같은 다른 주의 입법자들에게 사례 연구로 작용했다.
향후 전망
2025년 초 현재, 캘리포니아 AI 법안의 미래는 불확실하다. 뉴섬 주지사는 보다 목표 지향적인 규제에 대한 지지를 표명했으며, 2025년 입법 회기에서 새로운 제안이 예상된다. 잠재적 초점 영역에는 의료 분야의 AI, 자율 주행 차량, 딥페이크가 포함된다. 주는 또한 기술의 영향을 연구하고 정책을 권고하기 위해 AI 실무 그룹을 설립했다.
관찰자들은 AI 개발의 빠른 속도가 지속적인 입법 업데이트를 필요로 할 것이라고 지적한다. 캘리포니아의 과제는 주를 글로벌 기술 리더로 만든 혁신을 억압하지 않으면서 대중을 보호하는 규칙을 만드는 것이다. 이러한 노력의 결과는 산업계, 학계, 다른 정부들에 의해 면밀히 관찰될 것이다.
다른 관할권과의 비교 분석
캘리포니아의 AI 법안은 다른 지역의 접근 방식과 다르다. 예를 들어 EU AI 법은 AI 시스템을 위험 수준별로 분류하며, 생체 인식 식별 및 중요 인프라와 같은 고위험 응용 분야에 엄격한 요구 사항을 부과한다. 반면 캘리포니아의 법안은 선거 딥페이크와 대규모 모델 안전과 같은 특정 문제를 대상으로 더 좁게 초점을 맞추었다. 중국은 또한 2022년과 2023년에 각각 발효된 알고리즘 추천 및 딥 합성에 대한 규칙을 포함한 규제를 시행했다.
이러한 차이는 다양한 문화적, 정치적 맥락을 반영한다. 혁신과 제한된 정부 개입을 강조하는 미국은 보다 비간섭주의적 접근을 선호하는 반면, EU와 중국은 법적 프레임워크를 구축하는 데 더 적극적이다. 기술 허브로서의 캘리포니아의 위치는 그 입법에 과도한 영향력을 부여하지만, 연방 차원의 조정 부족은 여전히 과제로 남아 있다.
이해관계자의 역할
다양한 이해관계자가 캘리포니아 AI 법안을 형성해 왔다. OpenAI, Anthropic, Google DeepMind를 포함한 기술 기업들은 로비 활동에 참여했으며, 일부 조항을 지지하면서 다른 조항에 반대했다. 예를 들어, Anthropic은 SB 1047에 대한 우려를 표명했지만 나중에 AI 안전을 위한 새로운 주 기관을 만드는 수정안을 제안했다. 스탠포드 AI 연구소와 버클리 AI 연구와 같은 학술 기관은 입법 과정을 알리기 위해 전문가 증언과 연구를 제공했다.
전자 프런티어 재단(Electronic Frontier Foundation)과 미국 시민 자유 연합(American Civil Liberties Union)과 같은 시민 사회 조직은 투명성과 책임 조치를 옹호했다. 노동 조합도 특히 일자리 대체와 직장 감시와 관련된 문제에 대해 의견을 제시했다. 다양한 이해관계의 존재로 인해 합의에 도달하기 어려웠으며, 이는 법안의 혼합된 결과에 기여했다.
결론
캘리포니아 AI 법안은 주 차원에서 인공지능을 규제하려는 중요한 시도를 대표한다. 엄격한 안전 규제 지지자들에게 SB 1047의 거부는 후퇴였지만, AB 2930의 통과는 일부 조치가 추진력을 얻을 수 있음을 보여준다. 지속적인 논쟁은 빠르게 진화하고 광범위한 영향을 미치는 기술을 통치하는 복잡성을 강조한다. AI가 계속 발전함에 따라, 캘리포니아의 입법 노력은 진화할 가능성이 높으며, 미국 및 그 너머에서 AI 정책의 선도 지표 역할을 할 것이다.