캘리포니아 AI 법률은 캘리포니아주에서 인공지능 시스템의 개발, 배포 및 사용을 규율하는 일련의 주 차원 법령과 규정을 의미하며, 특히 생성형 AI, 딥페이크 및 알고리즘 책임성에 중점을 둔다. 2018년에서 2024년 사이에 주로 제정된 이러한 법률은 투명성, 공개 및 AI 관련 피해에 대한 책임에 대한 요구 사항을 확립하여 캘리포니아를 미국 AI 정책의 선도적 관할권으로 자리매김하게 한다. 이 법안은 선거 간섭과 비동의 친밀한 이미지에서 고용 및 고위험 AI 시스템의 자동화된 의사 결정에 이르기까지 다양한 우려 사항을 다룬다.
캘리포니아 최초의 주요 AI 법률은 2018년 온라인 투명성 강화법(SB 1001)으로, 상업적 또는 정치적 목적으로 사용자와 상호 작용할 때 봇이 인공적 성격을 공개하도록 요구했다. 이어 2019년에는 AB 730(선거 60일 이내에 선거 광고에서 기만적인 오디오 또는 시각 미디어 금지)과 AB 602(비동의 딥페이크 음란물에 대한 민사 책임 창설)를 포함한 일련의 딥페이크 특화 법률이 제정되었다. 이러한 초기 조치는 Generative AI 모델과 같은 도구를 통해 널리 접근 가능해진 생성형 AI의 가장 즉각적인 피해를 겨냥했다.
입법 발전 및 주요 법령
캘리포니아의 AI 법적 체계는 2020년대 초에 크게 확장되었다. 2020년 AB 1285는 선거 딥페이크 금지를 광고뿐만 아니라 모든 정치 커뮤니케이션으로 확대했다. 2022년 캘리포니아 개인정보 보호 권리법(CPRA)은 주의 소비자 개인정보 보호법을 개정하여 자동화된 의사 결정에 관한 조항을 포함시켰고, 주민들에게 AI 기반 프로파일링을 거부할 권리를 부여했다. 2023년에는 SB 1011을 제정하여 대규모 언어 모델 개발자에게 훈련 데이터 출처와 안전 테스트를 상세히 설명하는 투명성 보고서를 발행하도록 요구했다.
가장 포괄적인 법안은 2024년 SB 1047, 즉 선도적 AI 모델을 위한 안전하고 안전한 혁신 법안이었다. 이 법은 10^26 부동 소수점 연산을 초과하는 훈련 계산을 가진 대규모 언어 모델 개발자에게 배포 전 위험 평가, 필수 안전 프로토콜 및 심각한 사고를 주에 보고할 의무를 부과했다. 또한 캘리포니아 기술부 내에 프론티어 AI 부서를 설립하여 준수를 감독하도록 했다. 개빈 뉴섬 주지사는 이 법안에 서명했지만, 동시에 AI 생성 콘텐츠의 워터마킹을 의무화하는 동반 법안(AB 2930)은 기술적 실행 가능성 우려를 이유로 거부권을 행사했다.
딥페이크 규제 및 민사 책임
캘리포니아는 신경망 및 딥러닝 기술을 사용하여 생성된 합성 미디어인 딥페이크를 규제하는 데 특히 적극적이었다. AB 602(2019)는 비동의 딥페이크 음란물에 등장하는 개인에게 위반당 최대 50,000달러의 손해 배상을 허용하는 민사 소송 권리를 창설했다. 이는 2023년 AB 2740으로 강화되어 해당 콘텐츠를 고의로 호스팅하는 배포자와 플랫폼으로 책임을 확대했다.
정치적 딥페이크의 경우, AB 730(2019) 및 그 확장인 AB 1285(2020)는 선거 60일 이내에 후보자의 실질적으로 기만적인 오디오 또는 시각 미디어 배포를 금지하며, 콘텐츠가 변경되었음을 명확히 공개하지 않는 한 금지한다. 위반 시 금지 명령과 민사 처벌이 부과될 수 있다. 이러한 법률은 수정 헌법 제1조 근거로 도전받았지만, 법원은 사기를 방지하기 위해 좁게 맞춰진 경우 일반적으로 이를 지지했다.
투명성 및 공개 요구 사항
SB 1001(2018)은 사용자와 상호 작용하는 자동화된 온라인 계정인 봇이 투표 또는 상업 거래에 영향을 미치기 위해 사용될 때 인공적 정체성을 공개하도록 요구한다. 이 법은 인간 개입 없이 작동하는 자동화된 시스템으로 봇을 정의하며, 특정 공공 서비스 공지를 면제한다. 이 조항은 다른 주의 모델로 인용되었지만, 집행은 제한적이었다.
SB 1011(2023)은 트랜스포머에 사용되는 것과 같은 대규모 언어 모델 개발자가 법무장관에게 연례 투명성 보고서를 제출하도록 요구함으로써 더 나아갔다. 이러한 보고서에는 훈련 데이터 출처, 모델 평가 결과 및 알려진 편향이나 실패 모드에 대한 정보가 포함되어야 한다. 이 법은 또한 개발자가 심각한 안전 사건에 대한 공개 사고 로그를 유지하도록 의무화한다.
고용 및 알고리즘 책임성
캘리포니아는 또한 직장에서의 AI를 다루었다. CPRA(2022)는 직원에게 자동화된 의사 결정 시스템이 자신을 평가하는 방법에 대한 정보에 접근하고 특정 프로파일링을 거부할 권리를 부여한다. 2023년 AB 1076은 주의 공정 고용 및 주택법을 개정하여 인종이나 성별과 같은 보호 특성에 기반하여 차별하는 AI 시스템 사용을 명시적으로 금지했다. 고용주는 채용, 승진 또는 해고 결정에 사용되는 모든 AI 도구에 대한 편향 감사를 실시해야 한다.
이러한 조항은 버클리 AI 연구 및 스탠포드 AI 연구소와 같은 기관의 기계 학습 편향에 대한 연구를 반영하여 알고리즘 공정성을 보장하려는 광범위한 노력과 일치한다. 그러나 집행 메커니즘은 여전히 미개발 상태이며, 비평가들은 자체 감사가 불충분하다고 주장한다.
집행 및 처벌
캘리포니아 AI 법률의 집행은 주로 법무장관과 지역 지방 검사의 책임이다. 민사 처벌은 법령에 따라 다양하다: SB 1001은 위반당 최대 2,500달러의 벌금을 부과하고, AB 602는 사건당 50,000달러의 법정 손해 배상을 허용한다. SB 1047은 계층적 처벌 구조를 만들어 심각한 사고 보고 실패 시 최대 1,000만 달러, 위험 평가 요구 사항 미준수 시 최대 100만 달러의 벌금을 부과한다.
주는 또한 여러 법률에서 개인 소송 권리를 승인하여 개인이 손해 배상을 청구할 수 있도록 했다. 예를 들어, AB 2740은 딥페이크 음란물 피해자가 금지 명령과 실제 손해를 추구할 수 있도록 허용한다. 법원은 이러한 법령을 해석하기 시작했으며, 초기 판결은 비동의 친밀한 이미지 사건에서 원고에게 유리한 방향으로 기울었다.
영향 및 논란
캘리포니아 AI 법률은 특히 OpenAI, Anthropic 및 Google DeepMind를 포함한 많은 선도 AI 기업이 주에 본사 또는 주요 운영 시설을 두고 있기 때문에 AI 산업에 상당한 영향을 미쳤다. 이 법률은 국가 정책 논의에 영향을 주었으며, 여러 다른 주에서 유사한 조치를 채택했다. 그러나 혁신을 억제하고 AI 개발을 다른 관할권으로 몰아낼 수 있다는 과잉 규제 주장으로 업계 그룹의 비판도 받았다.
지지자들은 특히 생성형 AI의 급속한 발전을 고려할 때 이러한 법률이 공공 안전과 시민 권리에 필요한 보호 장치를 제공한다고 주장한다. SB 1047 이후 논쟁이 격화되었으며, 일부 연구자와 기업은 계산 기반 임계값이 자의적일 수 있고 준수 비용이 소규모 스타트업에 불균형적으로 영향을 미칠 수 있다고 경고했다. 2025년 현재 이 법의 시행은 진행 중이며, 그 전체 효과는 아직 지켜봐야 한다.
향후 방향
캘리포니아는 AI 법적 체계를 계속 개선하고 있다. 2025년에는 입법부가 AI 워터마킹, 엔터테인먼트 분야의 딥페이크 공개 및 주 AI 안전 위원회 설립에 관한 추가 법안을 검토 중이다. 주는 또한 AI 규정을 조화시키기 위한 다주 협력에 참여하고 있다. 캘리포니아의 경제적 및 기술적 영향력을 고려할 때, 그 AI 법률은 앞으로 수년간 더 넓은 미국 규제 환경을 형성할 가능성이 높다.
AI 시스템이 일상 생활에 더욱 통합됨에 따라, 캘리포니아의 접근 방식 - 혁신과 책임성의 균형 - 은 민주적 사회에서 인공지능 거버넌스의 중요한 시험 사례로 작용할 것이다.