カリフォルニア州上院法案1047号（正式名称「Safe and Secure Innovation for Frontier Artificial Intelligence Models Act」）は、大規模な人工知能システムの開発と展開を規制することを目的とした州法の提案であった。2024年2月にスコット・ウィーナー州上院議員によって提出されたこの法案は、特定の計算閾値を超えるAIモデルの開発者に対して安全要件を課そうとするものであった。2024年8月にカリフォルニア州議会を通過した後、この法案は2024年9月29日にギャビン・ニューサム知事によって拒否権が発動され、米国におけるAI規制をめぐる進行中の議論において重要な瞬間となった。
この拒否権は、激しいロビー活動と公の議論の集大成であり、大手テクノロジー企業、AI研究者、擁護団体からの反応を引き出した。支持者らは、この法案は高度なAIによる潜在的な壊滅的被害を防ぐために必要であると主張したが、テック業界の多くを含む反対者らは、イノベーションを阻害し、非現実的な義務を課すことになると主張した。拒否権の余波は、州レベルと連邦レベルの両方で代替的な規制アプローチに関する新たな議論を引き起こしている。
立法の背景
スコット・ウィーナー上院議員は2024年2月にSB 1047を提出し、「フロンティアAIモデル」（10^26浮動小数点演算（FLOPs）を超える計算能力で訓練されたもの）の規制枠組みを確立することを目指した。この法案は、開発者に対し、モデルを直ちに停止できる能力を含む安全プロトコルの実装、新設の州機関への重大なインシデントの報告を義務付けた。また、開発者に対し、展開前のテストを実施し、モデルが大量死傷者やサイバー攻撃を引き起こすために容易に変更されないことを保証することも義務付けた。
この法案は、立法過程でいくつかの修正を受けた。特筆すべきは、2024年8月の修正で、新設の州機関を創設する条項を削除し、その代わりに監督をテクノロジー省に委ねたことである。別の修正では、商業展開に使用されないことを条件に、主に学術的または研究目的で開発されたモデルを免除した。
立法の通過
SB 1047は、2024年8月28日にカリフォルニア州議会で41対16の投票で可決され、2024年8月30日に州上院で30対8の投票で可決された。この法案は超党派の支持を受け、一部の共和党員が民主党員に加わって賛成した。この通過は画期的な出来事と見なされた。カリフォルニア州には、OpenAI、Anthropic、Google DeepMindなど、世界をリードするAI企業の多くが拠点を置いているためである。
知事による拒否権
2024年9月29日、ギャビン・ニューサム知事はSB 1047に拒否権を発動し、AIイノベーションへの支持を表明しつつも、この法案のアプローチを批判する声明を発表した。ニューサム氏は、モデルの規模と計算能力に焦点を当てたこの法案のアプローチは狭すぎ、誤った安心感を与える可能性があり、有益なAIアプリケーションの開発を阻害する恐れがあると主張した。同氏は、急速に進化する技術に適応できる、より柔軟で証拠に基づく規制枠組みの必要性を強調した。
この拒否権は完全に予想外ではなかった。ニューサム氏は以前から過剰規制への懸念を示していたためである。拒否権メッセージの中で、同氏はこの法案がAIの多様な用途を考慮しておらず、小規模な開発者に負担の大きい要件を課す可能性があると指摘した。また、進行中の連邦政府の取り組みや、2023年9月に署名されたカリフォルニア州自身のAIに関する行政命令を、これらの問題に対処するためのより適切な場として挙げた。
拒否権への反応
拒否権への反応は大きく分かれた。ウィーナー上院議員や各種AI安全擁護団体を含む法案支持者は失望を表明した。ウィーナー氏はこの拒否権を公衆の安全にとっての後退と呼び、規制を推進し続けることを誓った。一部のAI研究者、例えばヨシュア・ベンジオ（直接的な関連はないが、著名な人物である）は、予防的措置が不可欠だと主張し、公にこの法案を支持していた。
反対者、特にテック業界の多くはこの拒否権を称賛した。OpenAIやAnthropicなどの企業はこの法案に反対するロビー活動を行い、イノベーションを妨げ、閾値が恣意的であると主張していた。ベンチャーキャピタル企業やスタートアップ擁護団体も、この法案がAI企業をカリフォルニアから追い出すことになっただろうとして、この決定を歓迎した。
余波と規制環境
この拒否権は、カリフォルニア州におけるAI規制をめぐる議論を終わらせていない。ウィーナー上院議員は、利害関係者からのフィードバックを組み込み、次の会期で修正法案を提出する計画を示している。一方、ニューサム知事は、AIリスクを調査し、将来の政策に勧告を行うための専門家パネルを招集した。州はまた、責任あるAI調達とリスク評価に焦点を当てた行政命令の実施を継続している。
連邦レベルでは、この拒否権により、国家規模のAI規制枠組みへの呼びかけが強まっている。バイデン政権は2023年10月にAIに関する行政命令を発出していたが、包括的な法律は議会で未だ審議中である。連邦政府の行動がないことで、州の取り組みが断片的になり、カリフォルニア州のアプローチが潜在的なモデルとして注目されている。
業界と学界の視点
この拒否権は、AIコミュニティ内で、進歩を阻害せずに安全性を確保する最善の方法についての議論を引き起こした。一部の研究者は、主要ラボが最も強力なモデルの開発を一時停止するという自主的なコミットメントなどの自己規制は不十分だと主張している。他の研究者は、規制はモデル自体ではなく、特定の高リスクアプリケーションに焦点を当てるべきだと主張している。
AnthropicとOpenAIはともに社内安全チームを設立し、政府の監視を求めてきたが、SB 1047の特定の条項には反対した。Google DeepMindもAI安全研究に積極的であるが、この法案については公開の立場を取らなかった。スタンフォードAIラボやバークレーAIリサーチなどの学術機関は、研究と政策提言を通じてこの議論に貢献した。
将来の見通し
2025年初頭の時点で、カリフォルニア州では新しい州レベルのAI法案は可決されていないが、議論は続いている。SB 1047をめぐる議論は、急速に進化し広範な用途を持つ技術を規制することの難しさを浮き彫りにした。将来の立法努力の結果は、イノベーションと公衆の安全のバランスを取ること、そして効果的かつ柔軟なルールを策定できるかどうかにかかっている。
拘束力のある規制がない中で、多くのAI開発者は、Anthropicが提案した「フロンティア安全枠組み」などの自主的な安全フレームワークを採用している。これらの取り組みは法的に強制力はないが、責任ある開発への一歩を表している。SB 1047の拒否権は、こうして技術、政策、世論の複雑な相互作用のケーススタディとなっている。