カリフォルニア州AI法（California AI Laws）とは、カリフォルニア州における人工知能システムの開発、展開、利用を規律する一連の州レベルの法令および規制を指し、特に生成AI、ディープフェイク、アルゴリズムの説明責任に重点を置いている。これらの法律は、主に2018年から2024年の間に制定され、透明性、開示、およびAI関連の害に対する責任に関する要件を確立し、カリフォルニア州を米国のAI政策における主要な管轄区域として位置づけている。この法律群は、選挙干渉や非同意の親密な画像から、雇用における自動意思決定や高リスクAIシステムに至るまでの懸念に対処している。
カリフォルニア州初の主要なAI法は、2018年のオンライン透明性強化法（SB 1001）であり、商業的または政治的目的でユーザーとやり取りする際に、ボットがその人工的な性質を開示することを義務付けた。これに続いて、2019年にはディープフェイク特化法が制定され、AB 730（選挙の60日以内に選挙広告で欺瞞的な音声または視覚メディアを禁止）やAB 602（非同意のディープフェイクポルノに対する民事責任を創設）が含まれる。これらの初期措置は、Generative AIモデルなどのツールを通じて広く利用可能になった生成AIの最も差し迫った害を対象としていた。
立法の進化と主要な法令
カリフォルニア州のAI法的枠組みは、2020年代初頭に大幅に拡大した。2020年には、AB 1285が選挙ディープフェイク禁止を広告だけでなくすべての政治コミュニケーションに拡大した。2022年のカリフォルニア州プライバシー権法（CPRA）は、州の消費者プライバシー法を改正し、自動意思決定に関する条項を追加し、住民にAI駆動のプロファイリングをオプトアウトする権利を与えた。2023年には、州はSB 1011を制定し、大規模言語モデルの開発者に対し、トレーニングデータの出所と安全性テストの詳細を記載した透明性報告書を公開することを義務付けた。
最も包括的な法律は2024年のSB 1047、すなわちフロンティアAIモデルのための安全かつ確実な革新法である。この法律は、トレーニング計算量が10^26浮動小数点演算を超える大規模言語モデルの開発者に義務を課し、展開前のリスク評価、必須の安全プロトコル、重大なインシデントの州への報告義務を含む。また、カリフォルニア州技術局内にフロンティアAI部門を設立し、コンプライアンスを監督させた。ギャビン・ニューサム知事はこの法案に署名したが、同時に、技術的実現可能性の懸念を理由に、AI生成コンテンツの透かしを義務付ける関連法案（AB 2930）を拒否権で否決した。
ディープフェイク規制と民事責任
カリフォルニア州は、ニューラルネットワークと深層学習技術を使用して作成される合成メディアであるディープフェイクの規制に特に積極的である。AB 602（2019年）は、非同意のディープフェイクポルノに登場する個人の肖像に対する私人訴権を創設し、違反ごとに最大5万ドルの損害賠償を認めた。これはAB 2740（2023年）によって強化され、そのようなコンテンツを故意にホストする配布者やプラットフォームに責任を拡大した。
政治的ディープフェイクについては、AB 730（2019年）とその拡張であるAB 1285（2020年）が、選挙の60日以内に候補者の実質的に欺瞞的な音声または視覚メディアの配布を禁止し、コンテンツが改変されているという明確な開示が含まれない限り適用される。違反は差止命令や民事罰につながる可能性がある。これらの法律は修正第一条の根拠に基づいて異議申し立てが行われてきたが、裁判所は一般的に、詐欺防止に狭く調整されている場合にはこれらを支持している。
透明性と開示要件
SB 1001（2018年）は、ユーザーとやり取りする自動化されたオンラインアカウントであるボットに対し、投票や商業取引に影響を与えるために使用される場合に、その人工的なアイデンティティを開示することを義務付けている。この法律は、ボットを人間の介入なしに動作する自動化システムと定義し、特定の公共広告を免除している。この条項は他の州のモデルとして引用されているが、執行は限定的である。
SB 1011（2023年）はさらに進み、トランスフォーマーで使用されるような大規模言語モデルの開発者に対し、司法長官に年次透明性報告書を提出することを義務付けた。これらの報告書には、トレーニングデータの出所、モデル評価結果、既知のバイアスや障害モードに関する情報を含めなければならない。この法律はまた、開発者が重大な安全イベントのための公開インシデントログを維持することを義務付けている。
雇用とアルゴリズムの説明責任
カリフォルニア州はまた、職場でのAIにも対処している。CPRA（2022年）は、従業員に自動意思決定システムがどのように評価するかに関する情報にアクセスする権利と、特定のプロファイリングをオプトアウトする権利を与えている。2023年には、AB 1076が州の公正雇用住宅法を改正し、人種や性別などの保護特性に基づいて差別するAIシステムの使用を明示的に禁止した。雇用主は、採用、昇進、または解雇の決定に使用されるAIツールのバイアス監査を実施しなければならない。
これらの条項は、バークレーAIリサーチやスタンフォードAIラボなどの機関による機械学習のバイアスに関する研究と共鳴する、アルゴリズムの公平性を確保するための広範な取り組みと一致している。しかし、執行メカニズムは未発達のままであり、自己監査は不十分だと批判する者もいる。
執行と罰則
カリフォルニア州AI法の執行は、主に司法長官と地方検事の責任である。民事罰は法令によって異なり、SB 1001は違反ごとに最大2,500ドルの罰金を課し、AB 602はインシデントごとに5万ドルの法定損害賠償を認めている。SB 1047は段階的な罰則構造を創設し、重大なインシデントの報告義務違反に対して最大1,000万ドル、リスク評価要件の不遵守に対して最大100万ドルの罰金を課す。
州はまた、いくつかの法律で私人訴権を認可し、個人が損害賠償を求めて訴訟を起こすことを可能にしている。例えば、AB 2740はディープフェイクポルノの被害者が差止救済と実際の損害賠償を求めることを許可している。裁判所はこれらの法令の解釈を開始しており、初期の判決では非同意の親密な画像を含む事件で原告に有利な判決が下されている。
影響と論争
カリフォルニア州AI法はAI産業に大きな影響を与えており、特にOpenAI、Anthropic、Google DeepMindを含む多くの主要AI企業が州内に本社または主要な事業所を置いているためである。これらの法律は国家レベルの政策議論に影響を与え、他のいくつかの州も同様の措置を採用している。しかし、過剰規制が革新を阻害し、AI開発を他の管轄区域に追いやる可能性があると主張する業界団体からの批判も受けている。
支持者は、特に生成AIの急速な進歩を考慮すると、これらの法律が公共の安全と市民権のための必要な保護を提供すると主張している。この議論はSB 1047の後に激化し、一部の研究者や企業は、計算量ベースの閾値が恣意的である可能性があり、コンプライアンスコストが小規模なスタートアップに不均衡に影響する可能性があると警告した。2025年現在、この法律の施行は進行中であり、その完全な効果はまだ明らかになっていない。
将来の方向性
カリフォルニア州はAI法的枠組みの改良を続けている。2025年には、州議会はAI透かし、エンターテインメントにおけるディープフェイク開示、州AI安全委員会の設立に関する追加法案を検討している。州はまた、AI規制を調和させるための複数州協力にも参加している。カリフォルニア州の経済的および技術的影響力を考えると、そのAI法は今後数年間、米国全体の規制環境を形成する可能性が高い。
AIシステムが日常生活により統合されるにつれて、革新と説明責任のバランスを取るカリフォルニア州のアプローチは、民主社会における人工知能のガバナンスのための重要なテストケースとして機能するだろう。