2024年、カリフォルニア州は広く報じられた上院法案1047号をはるかに超える一連の人工知能関連法を制定した。SB 1047、すなわち「フロンティア人工知能モデルのための安全かつ確実な革新法」は全国的な見出しを独占し、最終的に2024年9月29日にギャビン・ニューサム知事によって拒否権が発動されたが、州議会は他の多くのAI関連措置を可決し、知事は署名した。これらの法律は、AI生成コンテンツの透明性、政治キャンペーンにおけるディープフェイクの使用、自動意思決定システムの説明責任など、幅広い懸念に対処した。これらが一体となることで、カリフォルニア州はAI規制の先駆者としての地位を確立したが、そのアプローチはSB 1047が提案した包括的な枠組みよりも断片的なままであった。
この立法パッケージは、Generative AIツールの急速な普及に対応するためのカリフォルニア州議員らの緊迫感の高まりを反映していた。法律は、業界団体、学術機関、市民社会組織による激しいロビー活動の中で起草された。民主党員であるニューサム知事は、2024年9月を通じて一連の発表で法案に署名し、革新を促進しながら消費者と有権者を保護する必要性を強調した。結果として生じた法令は、州内でArtificial intelligenceシステムを開発・展開する企業に新たな義務を課した。カリフォルニア州は、OpenAI、Anthropic、Google DeepMindなど、世界をリードする多くのAI企業の本拠地である。
AI生成コンテンツの透明性
最も重要な法律の一つは、訓練データの透明性を義務付けた議会法案2013号（AB 2013）であった。この法律は、生成AIシステムの開発者に対し、モデルの訓練に使用されたデータセットに関する文書を公開することを義務付ける。この文書には、データの出所、データに著作権で保護された素材が含まれるかどうか、データがどのようにキュレーション・処理されたかに関する情報を含めなければならない。この法律は、企業の本社がどこにあるかに関係なく、カリフォルニア州民にAIサービスを提供する開発者に適用される。2025年1月1日に施行され、企業に遵守のための短い猶予期間を与えた。
AB 2013は、OpenAIやAnthropicなどの企業に対して、著作者や芸術家が、自分たちの著作物が許可なくLarge language modelの訓練に使用されたと主張して起こした訴訟への直接的な対応と見なされた。この法律は著作権で保護された素材の使用を禁止するものではないが、その使用に関する透明性を強制する。法律専門家は、文書化要件は小規模な新興企業にとって負担となる可能性がある一方、より多くのリソースを持つ大企業は遵守しやすい立場にあると指摘した。この法律はまた、開発者に対し、モデルの目的、意図された使用事例、既知の制限やリスクを説明することを義務付けた。
政治キャンペーンにおけるディープフェイク
カリフォルニア州はまた、選挙におけるディープフェイクの使用を規制するために積極的に動いた。2024年9月に署名された議会法案2655号（AB 2655）は、大規模なオンラインプラットフォームに対し、選挙に関連する欺瞞的なAI生成コンテンツにラベルを付けるか削除することを義務付ける。この法律は、候補者や選出された役人を実質的に欺瞞的な方法で描写するコンテンツ、例えば候補者が実際には言っていないことを言っているように見せる偽ビデオなどに適用される。プラットフォームは、そのようなコンテンツを通知されてから72時間以内に対応しなければならない。この法律は、選挙におけるディープフェイクに対処した以前のカリフォルニア州法に基づくものだが、要件をより広範なプラットフォームとコンテンツに拡張している。
AB 2655は、議会法案2839号（AB 2839）によって補完され、欺瞞的なAI生成選挙コンテンツの配布に対する差し止め命令を裁判所が発令できるようにした。この法律はまた、候補者が迅速な法的救済を求めることを認めている。これらの法律は一体となって、2024年の選挙サイクル以降におけるAI駆動の偽情報と戦うための強固な法的枠組みを構築した。支持者は、これらの法律は民主的なプロセスを保護するために必要であると主張したが、批評家は、修正第一条違反の可能性と、「実質的に欺瞞的な」ディープフェイクを構成するものの定義の難しさについて懸念を表明した。
アルゴリズムの説明責任と自動意思決定
もう一つの注目すべき法律である上院法案942号（SB 942）は、自動意思決定システムにおけるAIの使用に対処した。この法律は、雇用、住宅、信用、医療などに影響を与えるような重要な決定を行うためにAIを使用する企業に対し、システムがどのように機能するかについて消費者に有意義な情報を提供することを義務付ける。これには、決定に関わる論理、AIの役割の重要性、消費者がオプトアウトまたは人間による審査を要求する権利が含まれる。この法律は2025年1月1日に施行され、一部は欧州連合の一般データ保護規則に基づいてモデル化された。
SB 942は、アルゴリズムの透明性への一歩としてプライバシー擁護者から賞賛された。しかし、「重要な決定」を構成するものについて曖昧であり、企業にシステムの独立した監査を義務付けていないとして批判もされた。この法律の執行メカニズムは、主にカリフォルニア州プライバシー保護機関に委ねられ、同機関はこの法律を実施するための規制を発行する任務を負った。一部の業界団体は、企業がカリフォルニア州の要件を満たすためにシステムを適応させる必要があるため、この法律がコンプライアンス負担のモザイク状の状況につながる可能性があると警告した。
パフォーマーとクリエイターの保護
カリフォルニア州はまた、俳優、ミュージシャン、その他のパフォーマーを許可なくAIレプリカから保護することを目的とした法律も制定した。議会法案2602号（AB 2602）は、パフォーマーとスタジオ間の契約に、デジタルレプリカの使用に関する明確な文言を含めることを義務付ける。2025年1月1日に施行されたこの法律は、団体交渉協定でカバーされない限り、パフォーマーの明示的な同意なしにデジタルレプリカを使用することを禁止する。この法律は、AIに関する懸念を含むストライキを最近終了した全米映画俳優組合・米国テレビラジオ芸能人連盟（SAG-AFTRA）によって支持された。
関連法である議会法案1836号（AB 1836）は、同様の保護を亡くなったパフォーマーにも拡張した。商業作品で亡くなった人物のデジタルレプリカを使用する前に、遺産相続人または相続人からの同意を義務付ける。この法律は、歴史上の人物や亡くなった有名人の肖像を再現するためのAIの使用増加への対応と見なされた。両法は、カリフォルニア州の主要な経済原動力であるエンターテインメント業界においてAIがもたらす特有の課題に対処し、その特異性で注目された。
SB 1047の拒否権
これらの法律の成立にもかかわらず、カリフォルニア州で最も野心的なAI法案は法律にならなかった。スコット・ウィーナー上院議員によって提出されたSB 1047は、大規模なAIモデルの開発者に対し、緊急停止スイッチや第三者監査を含む安全プロトコルの実装を義務付けるものだった。この法案はまた、フロンティアAIモデルを監督する新しい州機関を創設するものだった。ニューサム知事は2024年9月29日にこの法案を拒否し、過度に広範であり革新を阻害する可能性があると主張した。拒否権メッセージの中で、ニューサム氏は、この法案は最大のモデルに焦点を当てており、現在のリスクによって正当化されない「厳格な基準」を課す可能性があると述べた。
この拒否権は、OpenAIやAnthropicを含む多くのテック業界にとって勝利であった。彼らはこの法案に反対するロビー活動を行っていた。しかし、高度なAIの潜在的な害に対する強力な保護策がカリフォルニア州に必要だと主張する擁護者を失望させた。メッセージの中で、ニューサム氏は、AI規制のためのリスクベースの枠組みを含む代替アプローチを開発するために、州機関に専門家と協力するよう指示したと述べた。この拒否権は、AI規制においてリードしたいという州の願望と、技術革新の世界的ハブとしての地位を維持したいという関心との間の緊張を浮き彫りにした。
反応と業界の対応
2024年の法律は、AI業界からさまざまな反応を引き出した。OpenAIやAnthropicなどの企業は、透明性とディープフェイク対策の一部の措置を公に支持したが、コンプライアンスの累積的な負担について懸念を表明した。特にGenerative AI分野の小規模な新興企業は、AB 2013の文書化要件を満たすのが難しいと懸念した。一部の企業は、新しい規制に対応するためにコンプライアンス責任者や法務チームを雇い始めた。Chamber of ProgressやTechNet業界団体などの業界団体は、他の州や連邦政府もAI法案を検討しているため、これらの法律が断片的な規制環境を生み出す可能性があると主張した。
アメリカ自由人権協会や電子フロンティア財団などの市民社会組織は、一般的に透明性と説明責任の措置を支持した。彼らは、これらの法律が消費者と有権者に、AI駆動の決定を理解し、異議を唱えるための重要なツールを提供すると主張した。しかし、一部のプライバシー擁護者は、特に独立した監査を義務付けたり、特定の高リスクなAI使用を全面的に禁止したりする点で、法律は十分ではないと指摘した。カリフォルニア州におけるAI規制をめぐる議論は続く可能性が高く、州議会は2025年に追加のAI法案を検討することをすでに示唆している。
実施と執行
2024年の法律の実施は、主にカリフォルニア州プライバシー保護機関や司法長官事務所などの州機関に委ねられている。プライバシー保護機関は、SB 942の規制を起草する任務を負っており、これにより法律の範囲と執行手続きが明確になる。同機関は、業界代表、学者、消費者擁護者などの利害関係者から意見を集めるために公開ワークショップを開催してきた。司法長官事務所は、ディープフェイク法の執行を担当し、違反者に対して民事訴訟を起こすことができる。
新しい法律への準拠は、カリフォルニア州で事業を展開する企業にとって重要な取り組みになると予想される。州の大規模なテクノロジー部門は、主要なAI開発者やAmazon Web Services、Microsoft Azure、Google Cloudなどのクラウドプロバイダーを含み、最も影響を受けるだろう。これらの企業の多くは、法律を見越して、すでにモデル文書の公開やコンテンツラベリングシステムの実装を開始している。法律の長期的な影響は、裁判所や規制当局による解釈、および連邦政府が州法を先取りする可能性のある独自のAI法案を可決するかどうかに依存する。
より広い文脈と将来の見通し
カリフォルニア州の2024年AI法は、AI規制に向けたより広範な世界的運動の一部である。2024年に正式に採択された欧州連合のAI法は、リスクレベルに基づいてAIシステムに包括的な要件を課している。中国や英国を含む他の国々も、AIガバナンスの枠組みを導入している。米国では、連邦政府は包括的な立法ではなく、大統領令や機関のガイダンスを用いて、より断片的なアプローチを取っている。カリフォルニア州の法律は、EUのAI法よりも狭いが、連邦政府の行動がない中での重要な一歩を表している。
カリフォルニア州におけるAI規制の将来は依然として不透明である。SB 1047の拒否権は、民主党が超多数派を占める州であっても、包括的なAI法案を可決することの政治的な課題を示した。しかし、2024年のパッケージの成立は、ディープフェイクやアルゴリズムの偏りなどの特定の害に対処するための超党派の支持があることを示した。AI技術が進化し続けるにつれて、カリフォルニア州の議員はおそらくこの問題を再検討し、新たな課題に対処するための新しい法案を導入する可能性がある。今のところ、2024年の法律は、革新と消費者保護のバランスを取りながら、州におけるAIガバナンスの基盤を提供している。