캘리포니아 상원 법안 1047(SB 1047)은 '첨단 인공지능 모델을 위한 안전하고 확실한 혁신 법안'이라는 제목으로, 대규모 인공지능 시스템의 개발과 배포를 규제하는 것을 목표로 한 제안된 주 법안이었다. 2024년 2월 스콧 위너(Scott Wiener) 주 상원의원이 발의한 이 법안은 특정 계산 임계값을 초과하는 AI 모델 개발자에게 안전 요구 사항을 부과하고자 했다. 2024년 8월 캘리포니아 주의회를 통과한 후, 이 법안은 2024년 9월 29일 개빈 뉴섬(Gavin Newsom) 주지사에 의해 거부권이 행사되었으며, 이는 미국 내 AI 규제에 대한 지속적인 논쟁에서 중요한 전환점이 되었다.
거부권 행사는 치열한 로비와 공개 논쟁의 결과였으며, 주요 기술 기업, AI 연구자, 옹호 단체들의 다양한 반응을 이끌어냈다. 지지자들은 이 법안이 고급 AI로 인한 잠재적 재앙적 피해를 예방하는 데 필요하다고 주장한 반면, 기술 업계를 포함한 반대자들은 혁신을 저해하고 비현실적인 의무를 부과할 것이라고 주장했다. 거부권 행사의 여파로 주 및 연방 차원에서 대체 규제 접근 방식에 대한 논의가 재개되었다.
입법 배경
스콧 위너 상원의원은 2024년 2월 SB 1047을 발의했으며, 10^26 부동 소수점 연산(FLOPs)을 초과하는 컴퓨팅 성능으로 훈련된 '첨단 AI 모델'에 대한 규제 체계를 수립하는 것을 목표로 했다. 이 법안은 개발자에게 모델을 신속히 종료할 수 있는 능력을 포함한 안전 프로토콜을 구현하고, 심각한 사고를 새로 설립된 주 기관에 보고하도록 요구했다. 또한 개발자가 배포 전 테스트를 수행하고 모델이 대량 사상자를 초래하거나 사이버 공격을 가능하게 하도록 쉽게 변형될 수 없도록 보장하도록 의무화했다.
이 법안은 입법 과정에서 여러 차례 수정되었다. 특히 2024년 8월의 수정안은 새로운 주 기관을 설립하는 조항을 제거하고 대신 기술부(Department of Technology)에 감독을 위임함으로써 범위를 축소했다. 또 다른 수정안은 주로 학술 또는 연구 목적으로 개발된 모델을 상업적 배포에 사용되지 않는 경우 면제했다.
입법 통과
SB 1047은 2024년 8월 28일 캘리포니아 주 하원에서 41-16 표결로, 2024년 8월 30일 주 상원에서 30-8 표결로 통과되었다. 이 법안은 일부 공화당원이 민주당원과 함께 찬성표를 던지며 초당적 지지를 받았다. 이 통과는 세계 최고의 AI 기업들이 많이 위치한 캘리포니아에서 획기적인 사건으로 여겨졌으며, 여기에는 OpenAI, Anthropic, Google DeepMind가 포함된다.
주지사 거부권
2024년 9월 29일, 개빈 뉴섬 주지사는 SB 1047에 거부권을 행사하며 AI 혁신에 대한 지지를 표명하면서도 법안의 접근 방식을 비판하는 성명을 발표했다. 뉴섬은 법안이 모델 크기와 컴퓨팅 성능에 초점을 맞춘 것이 너무 좁아 잘못된 안전감을 줄 수 있으며, 유익한 AI 응용 프로그램의 개발을 저해할 수 있다고 주장했다. 그는 빠르게 진화하는 기술에 적응할 수 있는 보다 유연하고 증거 기반의 규제 체계의 필요성을 강조했다.
거부권 행사는 완전히 예상치 못한 것은 아니었는데, 뉴섬은 이전에 과도한 규제에 대한 우려를 표명한 바 있었다. 거부 메시지에서 그는 법안이 AI의 다양한 응용을 고려하지 않았으며 소규모 개발자에게 부담스러운 요구 사항을 부과할 수 있다고 지적했다. 또한 그는 진행 중인 연방 차원의 노력과 2023년 9월에 서명된 캘리포니아 자체의 AI 행정 명령을 이러한 문제를 해결하기 위한 더 적절한 수단으로 언급했다.
거부권에 대한 반응
거부권에 대한 반응은 sharply 갈렸다. 위너 상원의원과 다양한 AI 안전 옹호 단체를 포함한 법안 지지자들은 실망을 표명했다. 위너는 거부권을 공공 안전에 대한 후퇴라고 부르며 규제를 계속 추진하겠다고 다짐했다. 일부 AI 연구자, 예를 들어 요슈아 벤지오 (직접적인 연관은 없지만 저명한 인물임)는 예방 조치가 필수적이라고 주장하며 공개적으로 법안을 지지했다.
기술 업계의 많은 사람을 포함한 반대자들은 거부권을 환영했다. OpenAI와 Anthropic 같은 기업들은 법안이 혁신을 저해하고 임계값이 자의적이라고 주장하며 로비 활동을 벌였다. 벤처 캐피털 기업과 스타트업 옹호자들도 법안이 AI 기업들을 캘리포니아 밖으로 몰아낼 것이라고 주장하며 이 결정을 환영했다.
여파 및 규제 환경
거부권 행사는 캘리포니아의 AI 규제 논쟁을 끝내지 않았다. 위너 상원의원은 이해 관계자들의 피드백을 반영하여 다음 회기에서 수정된 법안을 도입할 계획을 밝혔다. 한편, 뉴섬 주지사는 AI 위험을 연구하고 향후 정책에 대한 권고안을 마련하기 위해 전문가 패널을 소집했다. 주 정부는 또한 책임 있는 AI 조달과 위험 평가에 초점을 맞춘 행정 명령을 계속 이행하고 있다.
연방 차원에서 거부권 행사는 국가적 AI 규제 체계에 대한 요구를 강화했다. 바이든 행정부는 2023년 10월 AI에 관한 행정 명령을 발표했지만, 포괄적인 법안은 의회에서 여전히 계류 중이다. 연방 차원의 조치 부재는 주 차원의 다양한 이니셔티브로 이어졌으며, 캘리포니아의 접근 방식은 잠재적 모델로 주목받고 있다.
업계 및 학계 관점
거부권 행사는 AI 커뮤니티 내에서 혁신을 저해하지 않으면서 안전을 보장하는 최선의 방법에 대한 논의를 촉발했다. 일부 연구자들은 주요 연구소들이 가장 강력한 모델의 개발을 일시 중지하겠다는 자발적 약속과 같은 자율 규제와 자발적 노력이 불충분하다고 주장한다. 다른 이들은 규제가 모델 자체보다는 특정 고위험 응용 프로그램에 초점을 맞춰야 한다고 주장한다.
Anthropic과 OpenAI는 모두 내부 안전 팀을 설립하고 정부 감독을 요청했지만, SB 1047의 특정 조항에는 반대했다. Google DeepMind는 AI 안전 연구에 적극적으로 참여했지만 법안에 대해 공개적인 입장을 취하지 않았다. 스탠포드 AI 연구소와 버클리 AI 연구 같은 학술 기관은 연구와 정책 권고를 통해 논쟁에 기여했다.
향후 전망
2025년 초 현재 캘리포니아에서 새로운 주 AI 법안은 통과되지 않았지만 논의는 계속되고 있다. SB 1047에 대한 논쟁은 빠르게 진화하고 광범위한 응용을 가진 기술을 규제하는 것의 어려움을 부각시켰다. 향후 입법 노력의 결과는 혁신과 공공 안전의 균형, 그리고 효과적이고 유연한 규칙을 만드는 능력에 달려 있을 것이다.
구속력 있는 규제가 없는 상황에서 많은 AI 개발자들은 Anthropic이 제안한 '첨단 안전 프레임워크'와 같은 자발적 안전 체계를 채택했다. 이러한 노력은 법적으로 강제할 수는 없지만 책임 있는 개발을 향한 한 걸음을 나타낸다. SB 1047의 거부권 행사는 따라서 기술, 정책, 여론 간의 복잡한 상호 작용에 대한 사례 연구가 되었다.