2024년, 캘리포니아는 널리 알려진 상원 법안 1047호를 훨씬 넘어서는 일련의 인공지능 법률을 제정했다. SB 1047(첨단 인공지능 모델을 위한 안전하고 안전한 혁신 법안)은 전국적인 헤드라인을 장악했고 결국 2024년 9월 29일 개빈 뉴섬 주지사에 의해 거부권이 행사되었지만, 주 의회는 다른 많은 AI 관련 조치들을 통과시켰고 주지사는 서명했다. 이러한 법률들은 AI 생성 콘텐츠의 투명성, 정치 캠페인에서의 딥페이크 사용, 자동화된 의사 결정 시스템의 책임성 등 광범위한 우려 사항을 다루었다. 함께, 이러한 법률들은 SB 1047이 제안한 포괄적인 틀보다 더 분산된 접근 방식임에도 불구하고 캘리포니아를 AI 규제의 선구자로 자리매김하게 했다.
이 법안 패키지는 급속도로 확산되는 Generative AI 도구에 대응해야 한다는 캘리포니아 의원들 사이의 증가하는 긴박감을 반영했다. 이 법률들은 업계 단체, 학계 기관, 시민 사회 단체의 치열한 로비 속에서 만들어졌다. 민주당 소속인 뉴섬 주지사는 2024년 9월 내내 일련의 발표를 통해 법안들에 서명하면서 혁신을 촉진하면서 소비자와 유권자를 보호할 필요성을 강조했다. 그 결과로 생긴 법령들은 주 내에서 Artificial intelligence 시스템을 개발하고 배포하는 기업들, 특히 OpenAI, Anthropic, Google DeepMind를 포함한 세계 최고의 AI 기업들이 많이 위치한 주에 새로운 의무를 부과했다.
AI 생성 콘텐츠의 투명성
가장 중요한 법안 중 하나는 훈련 데이터의 투명성을 의무화한 하원 법안 2013호였다. 이 법은 생성형 AI 시스템 개발자들이 모델 훈련에 사용된 데이터 세트에 대한 문서를 공개하도록 요구한다. 이 문서에는 데이터 출처 정보, 데이터에 저작권이 있는 자료가 포함되어 있는지 여부, 데이터가 어떻게 선별되고 처리되었는지에 대한 정보가 포함되어야 한다. 이 법은 회사 본사가 어디에 있든 캘리포니아 주민에게 AI 서비스를 제공하는 개발자에게 적용된다. 이 법은 2025년 1월 1일부터 시행되어 기업들이 준수할 수 있는 짧은 기간을 주었다.
AB 2013은 OpenAI와 Anthropic 같은 기업들을 상대로 저작권이 있는 저작물이 허가 없이 Large language model 훈련에 사용되었다고 주장하는 작가와 예술가들이 제기한 소송에 대한 직접적인 대응으로 여겨졌다. 이 법은 저작권이 있는 자료의 사용을 금지하지는 않지만, 그 사용에 대한 투명성을 강제한다. 법률 전문가들은 문서화 요구 사항이 소규모 스타트업에게는 부담이 될 수 있는 반면, 더 많은 자원을 가진 대기업은 준수에 더 유리하다고 지적했다. 이 법은 또한 개발자에게 모델의 목적과 의도된 사용 사례, 알려진 한계나 위험을 설명하도록 요구했다.
정치 캠페인의 딥페이크
캘리포니아는 또한 선거에서 딥페이크 사용을 규제하기 위해 적극적으로 움직였다. 2024년 9월에 서명된 하원 법안 2655호는 대형 온라인 플랫폼이 선거와 관련된 기만적인 AI 생성 콘텐츠를 표시하거나 제거하도록 요구한다. 이 법은 후보자나 선출직 공무원이 실제로 말하지 않은 말을 하는 가짜 비디오와 같이 실질적으로 기만적인 방식으로 묘사하는 콘텐츠에 적용된다. 플랫폼은 그러한 콘텐츠를 통보받은 후 72시간 이내에 조치를 취해야 한다. 이 법은 선거에서 딥페이크를 다룬 초기 캘리포니아 법령을 기반으로 하지만, 더 넓은 범위의 플랫폼과 콘텐츠로 요구 사항을 확장한다.
AB 2655는 법원이 기만적인 AI 생성 선거 콘텐츠의 유포에 대한 금지 명령을 내릴 수 있도록 허용하는 하원 법안 2839호로 보완되었다. 이 법은 또한 후보자들이 신속한 법적 구제를 추구할 수 있도록 허용한다. 함께, 이러한 법률들은 2024년 선거 주기와 그 이후에 AI 기반 허위 정보에 맞서기 위한 강력한 법적 틀을 만들었다. 지지자들은 이 법률들이 민주적 과정을 보호하는 데 필요하다고 주장했지만, 비판자들은 잠재적인 수정 헌법 제1조 위반과 "실질적으로 기만적인" 딥페이크를 구성하는 것의 정의 어려움에 대한 우려를 제기했다.
알고리즘 책임성과 자동화된 의사 결정
또 다른 주목할 만한 법률인 상원 법안 942호는 자동화된 의사 결정 시스템에서 AI의 사용을 다루었다. 이 법은 고용, 주택, 신용 또는 의료에 영향을 미치는 것과 같은 중요한 결정을 내리기 위해 AI를 사용하는 기업이 소비자에게 시스템이 어떻게 작동하는지에 대한 의미 있는 정보를 제공하도록 요구한다. 여기에는 결정에 관련된 논리, AI 역할의 중요성, 소비자가 거부하거나 인간 검토를 요청할 권리가 포함된다. 이 법은 2025년 1월 1일부터 시행되었으며 부분적으로 유럽 연합의 일반 데이터 보호 규정을 모델로 삼았다.
SB 942는 알고리즘 투명성을 향한 한 걸음으로 개인정보 보호 옹호자들로부터 칭찬을 받았다. 그러나 "중요한 결정"이 무엇을 구성하는지에 대해 모호하고 기업이 시스템에 대한 독립적인 감사를 수행하도록 요구하지 않는다는 비판도 받았다. 이 법의 집행 메커니즘은 주로 캘리포니아 개인정보 보호 기관에 맡겨졌으며, 이 기관은 법을 시행하기 위한 규정을 발행하는 임무를 맡았다. 일부 업계 단체는 기업들이 캘리포니아의 요구 사항을 충족시키기 위해 시스템을 조정해야 하므로 이 법이 준수 부담의 파편화로 이어질 수 있다고 경고했다.
공연자와 창작자 보호
캘리포니아는 또한 승인되지 않은 AI 복제로부터 배우, 음악가 및 기타 공연자를 보호하기 위한 법률을 제정했다. 하원 법안 2602호는 공연자와 스튜디오 간의 계약에 디지털 복제 사용에 대한 명확한 언어를 포함하도록 요구한다. 2025년 1월 1일부터 시행된 이 법은 단체 교섭 계약에 포함되지 않는 한 공연자의 디지털 복제를 명시적 동의 없이 사용하는 것을 금지한다. 이 법은 최근 AI에 대한 우려를 포함한 파업을 마친 SAG-AFTRA(미국 배우 조합 - 텔레비전 및 라디오 예술가 연맹)의 지지를 받았다.
관련 법률인 하원 법안 1836호는 사망한 공연자에게 유사한 보호를 확대했다. 이 법은 상업적 제작에서 사망한 사람의 디지털 복제를 사용하기 전에 유산이나 상속인의 동의를 요구한다. 이 법은 역사적 인물과 사망한 유명인의 모습을 재현하기 위한 AI 사용 증가에 대한 대응으로 여겨졌다. 두 법률 모두 캘리포니아의 주요 경제 동력인 엔터테인먼트 산업에서 AI가 제기하는 독특한 문제를 해결하는 구체성으로 주목할 만했다.
SB 1047의 거부권
이러한 법률들의 통과에도 불구하고, 캘리포니아에서 가장 야심 찬 AI 법안은 법률이 되지 못했다. 스콧 위너 상원의원이 발의한 SB 1047은 대규모 AI 모델 개발자에게 킬 스위치와 제3자 감사를 포함한 안전 프로토콜을 구현하도록 요구했을 것이다. 이 법안은 또한 첨단 AI 모델을 감독할 새로운 주 기관을 만들었을 것이다. 뉴섬 주지사는 2024년 9월 29일 이 법안이 지나치게 광범위하고 혁신을 억제할 수 있다고 주장하며 거부권을 행사했다. 거부권 메시지에서 뉴섬은 이 법안이 가장 큰 모델에 초점을 맞추고 현재 위험으로 정당화되지 않는 "엄격한 기준"을 부과할 수 있다고 말했다.
이 거부권은 OpenAI와 Anthropic을 포함한 많은 기술 업계에게 승리였다. 그러나 첨고급 AI의 잠재적 피해에 대한 강력한 안전장치가 필요하다고 주장하는 옹호자들을 실망시켰다. 메시지에서 뉴섬은 주 기관들이 AI 규제를 위한 위험 기반 프레임워크를 포함한 대안적 접근 방식을 개발하기 위해 전문가들과 협력하도록 지시했다고 말했다. 이 거부권은 AI 규제에서 주도적 역할을 하려는 주의 열망과 기술 혁신의 글로벌 허브로서의 지위를 유지하려는 이해 사이의 긴장을 부각시켰다.
반응과 업계 반응
2024년 법률들은 AI 업계로부터 엇갈린 반응을 얻었다. OpenAI와 Anthropic 같은 기업들은 일부 투명성과 딥프페이크 조치를 공개적으로 지지하면서도 준수 부담의 누적에 대핸 우려를 표명했다. 특히 Generative AI 분야의 소규모 스타트업들은 AB 2013의 문서화 요구 사항을 충족하기 어려울 것이라고 걱정했다. 일부 기업들은 새 규정을 탐색하기 위해 규정 준수 담당자와 법률 팀을 고용하기 시작했다. Chamber of Progress와 TechNet 무역 협회 같은 업계 단체들은 다른 주들과 연방 정부도 AI 법률을 고려하고 있기 때문에 이 법률들이 파편화된 규제 환경을 만들 수 있다고 주장했다.
미국 시민 자유 연맹과 전자 프론티어 재단을 포함한 시민 사회 단체들은 일반적으로 투명성과 책임성 조치를 지지했다. 그들은 이 법률들이 소비자와 유권자에게 AI 기반 결정을 이해하고 이의를 제기할 수 있는 중요한 도구를 제공한다고 주장했다. 그러나 일부 개인정보 보호 옹호자들은 특히 독립적인 감사를 요구하거나 특정 고위험 AI 사용을 완전히 금지하는 측면에서 법률이 충분히 나아가지 않았다고 지적했다. 캘리포니아의 AI 규제에 대한 논쟁은 계속될 가능성이 높으며, 주 의회는 이미 2025년에 추가 AI 법안을 고려할 것이라고 시사했다.
시행과 집행
2024년 법률의 시행은 주로 캘리포니아 개인정보 보호 기관과 법무장관실을 포함한 주 기관에 달려 있다. 개인정보 보호 기관은 SB 942에 대한 규정을 작성하는 임무를 맡고 있으며, 이는 법의 범위와 집행 절차를 명확히 할 것이다. 기관은 업계 대표, 학계, 소비자 옹호자를 포함한 이해 관계자로부터 의견을 수집하기 위해 공개 워크숍을 개최했다. 법무장관실은 딥페이크 법률을 집행할 책임이 있으며 위반자에 대해 민사 소송을 제기할 수 있다.
새 법률의 준수는 캘리포니아에서 운영되는 기업들에게 상당한 작업이 될 것으로 예상된다. 주요 AI 개발자와 Amazon Web Services, Microsoft Azure, Google Cloud 같은 클라우드 제공업체를 포함한 주의 대규모 기술 부문이 가장 큰 영향을 받을 것이다. 이러한 기업들 중 다수는 이미 법률을 예상하여 모델 문서를 게시하고 콘텐츠 표시 시스템을 구현하기 시작했다. 법률의 장기적 영향은 법원과 규제 기관이 어떻게 해석하는지, 그리고 연방 정부가 주 법률을 대체할 수 있는 자체 AI 법률을 통과시키는지에 달려 있다.
더 넓은 맥락과 미래 전망
캘리포니아의 2024년 AI 법률은 AI 규제를 향한 더 넓은 글로벌 운동의 일부이다. 2024년에 공식적으로 채택된 유럽 연합의 AI 법은 위험 수준에 따라 AI 시스템에 포괄적인 요구 사항을 부과한다. 중국과 영국을 포함한 다른 국가들도 AI 거버넌스 프레임워크를 도입했다. 미국에서 연방 정부는 포괄적인 법률보다는 행정 명령과 기관 지침을 통해 더 파편화된 접근 방식을 취했다. 캘리포니아의 법률은 EU의 AI 법보다 더 좁지만, 연방 차원의 조치가 없는 상황에서 중요한 진전을 나타낸다.
캘리포니아의 AI 규제 미래는 여전히 불확실하다. SB 1047의 거부권은 민주당이 압도적 다수를 차지한 주에서도 포괄적인 AI 법률을 통과시키는 것의 정치적 어려움을 보여주었다. 그러나 2024년 패키지의 통과는 딥페이크와 알고리즘 편향과 같은 특정 피해를 해결하는 데 초당적 지지가 있음을 보여주었다. AI 기술이 계속 진화함에 따라 캘리포니아 의원들은 새로운 도전을 해결하기 위해 새로운 법안을 도입할 가능성이 높다. 현재로서는 2024년 법률이 혁신과 소비자 보호의 균형을 맞추며 주의 AI 거버넌스를 위한 기반을 제공한다.