カリフォルニア州のAIディープフェイク法は、合成メディア（一般にディープフェイクとして知られる）の作成と配布を規制するために制定された一連の州法であり、特に選挙とポルノの文脈に焦点を当てている。これらの法律は、現実的でありながら偽造された画像、動画、音声を生成することを容易にしたGenerative AI技術の急速な進歩に対応するものである。この法律は、選挙における偽情報、非同意の親密な画像、詐欺などのリスクを軽減することを目的としつつ、表現の自由や技術革新に関する懸念とのバランスを取ろうとしている。
ディープフェイクは、「深層学習」と「偽物」を組み合わせたかばん語であり、Artificial intelligence技術（Machine learningや生成的敵対ネットワーク（GAN）などのNeural networkアーキテクチャを含む）を用いて生成または改変されたメディア成果物である。操作されたメディアの概念自体は新しいものではないが、AIの使用により、そのようなコンテンツの現実性と入手可能性は劇的に向上した。カリフォルニア州では、議員らがこれらの課題に対処するため複数の法案を提出・可決しており、合成メディアの悪用に対する社会全体の懸念を反映している。
立法の背景
カリフォルニア州は、2019年に制定された最初の一連の法律により、米国におけるディープフェイク規制の最前線に立ってきた。これらの初期の法律は、政治的なディープフェイクと性的に露骨なディープフェイクの2つの主要な領域に焦点を当てていた。州のアプローチは技術の進歩に伴って進化しており、その後の修正や新たな法案が、民事訴訟におけるディープフェイクやオンラインプラットフォームの義務などの新たな問題に対処している。
これらの立法努力は、ディープフェイク関連の害に対応する米国の州全体の広範な傾向の一部である。2023年時点で、12以上の州が同様の法律を制定しているが、カリフォルニア州の規定は、州が技術ハブとしての役割を果たし、大規模なメディア産業を有していることから、最も包括的なものの一つとしてしばしば引用されている。
選挙および政治的なディープフェイク
カリフォルニア州の初期の法律の一つである議会法案730（AB 730）は、2019年に署名され、選挙通信における欺瞞的な音声または視覚メディアを対象としていた。この法律は、選挙の60日以内に、候補者の評判を傷つけたり有権者を欺いたりする意図を持って、公職候補者の実質的に欺瞞的なメディアの配布を禁止している。これには、改変されたと表示されたメディアや、ニュース放送または解説の一部であるメディアに関する例外が含まれる。
AB 730は後に、2024年に制定された議会法案2653（AB 2653）によって修正・補足され、大規模なオンラインプラットフォームに対し、選挙に関連する欺瞞的なAI生成コンテンツを削除またはラベル付けすることを義務付けた。この法律は、カリフォルニア州のユーザーが少なくとも100万人いるプラットフォームに適用され、通知から72時間以内にそのようなコンテンツをブロックまたはラベル付けすることを義務付けている。また、候補者は、遵守しないプラットフォームに対して差止命令による救済を求めることができる。
これらの法律は、ディープフェイクが選挙結果に影響を与えることを防ぐために設計されており、この懸念は、説得力のある偽のスピーチやインタビューを生成できるLarge language modelやその他の生成ツールの台頭とともに高まっている。これらの法律は、民主的なプロセスを保護する必要性と、風刺やパロディに対する修正第一条の保護とのバランスを取ることを目的としている。
非同意の親密な画像
カリフォルニア州はまた、人の似姿を同意なしに使用して性的に露骨なコンテンツを作成するディープフェイクポルノに対処する法律も制定している。2019年に可決された議会法案602（AB 602）は、ディープフェイクポルノの被害者が作成者および配布者に対して損害賠償を請求することを認めており、違反ごとに最大5万ドルの法定損害賠償を含む。この法律は、実際の画像とシミュレーションされた画像の両方を対象としており、描写された人の同意なしに配布されるコンテンツに適用される。
2020年には、上院法案820（SB 820）がリベンジポルノの定義をAI生成画像を含むように拡大し、嫌がらせや精神的苦痛を与える意図を持ってディープフェイクの親密な画像を配布することを犯罪とした。この法律は、心理的トラウマ、評判の毀損、さらには金銭的詐欺に関連付けられている合成メディアの害に対処するための広範な取り組みの一部である。
これらの法律は、ディープフェイクが特に女性や公人に対する虐待の道具として使用され得るという認識を反映している。法律は民事および刑事の両方の救済手段を提供しているが、オンライン上の行為者の匿名性やインターネットの管轄を越えた性質により、執行は依然として困難である。
その他のディープフェイク規制
選挙やポルノに加えて、カリフォルニア州は他のディープフェイク関連の害に対処する法律も制定している。例えば、2024年に可決された議会法案1280（AB 1280）は、大規模なオンラインプラットフォームに対し、公衆衛生や公共の安全に関する偽情報を広めるために使用される場合など、特定の文脈でAI生成コンテンツにラベルを付けることを義務付けている。この法律は、合成メディアに関する透明性を高めるための広範な取り組みの一部である。
さらに、カリフォルニア州は、裁判所で偽の証拠を使用するなど民事訴訟におけるディープフェイクに対処する立法や、商業広告におけるディープフェイクの使用を規制する立法を検討してきた。これらの取り組みは進行中であり、議員らは技術開発のペースに追いつこうとしている。
州のアプローチは、ディープフェイクの社会的影響と検出方法の有効性を研究してきたBAIR (Berkeley AI Research)やStanford AI Labなどの機関からの研究に影響を受けてきた。しかし、現時点では、ディープフェイクを具体的に規制する連邦法は存在せず、カリフォルニア州のような州が先導する形となっている。
執行と課題
カリフォルニア州のディープフェイク法の執行にはいくつかの障害がある。1つの課題は、特にGenerative AIモデルがより洗練されるにつれて、ディープフェイクの検出が難しいことである。研究者らは検出技術を開発してきたが、それらは常に信頼できるとは限らず、ディープフェイクはフィルターを回避できる可能性がある。もう1つの課題は管轄権の問題であり、多くのディープフェイク作成者は米国外で活動しているため、州法を適用することが難しい。
プラットフォームはまた、コンテンツモデレーションポリシーの一貫性のない執行について批判されてきた。欺瞞的な選挙コンテンツをラベル付けまたは削除することをプラットフォームに義務付ける2024年の法律は、テクノロジー企業にいくらかの責任を移す試みであるが、それがどれほど効果的に実施されるかはまだ不明である。法律専門家は、これらの法律が表現の自由や「実質的に欺瞞的」の定義に関して憲法上の異議に直面する可能性があると指摘している。
これらの課題にもかかわらず、カリフォルニア州の法律は他の州にとっての先例を設定し、連邦の提案にも引用されている。これらは、技術が進化し続ける中でも、AI生成メディアの害を軽減するための積極的なアプローチを表している。
影響と受け止め方
カリフォルニア州のディープフェイク法の支持者は、個人や民主的制度をAIの悪意ある使用から保護するために必要であると主張している。彼らは、政治家が扇動的な発言をする偽の動画など、偽情報を広めるためにディープフェイクが使用された例や、非同意のポルノで個人に嫌がらせをする例を挙げている。これらの法律は、悪意のある行為者を抑止し、被害者に救済手段を提供する方法と見なされている。
しかし、批判者は過剰な規制について懸念を表明している。一部は、これらの法律が政治風刺や芸術的表現などの正当な言論を抑圧するために使用される可能性があると主張している。他の者は、ラベル付け要件が非現実的であり、小規模なプラットフォームに負担をかける可能性があると懸念している。この議論は、Artificial intelligenceの分野における革新と規制の間のより広範な緊張を反映している。
2025年時点で、これらの法律の影響はまだ評価中である。初期の裁判例は法律の境界を試しており、一部の条項は異議を申し立てられている。それでもなお、カリフォルニア州はAI規制の先駆者であり続けており、そのディープフェイク法は州および連邦レベルの将来の政策に影響を与える可能性が高い。
今後の方向性
Deep learningやTransformer (architecture)モデルを含むAI技術の急速な進歩は、ディープフェイク法が定期的に更新される必要があることを示唆している。カリフォルニア州の議員らは、この問題を監視し続け、必要に応じて新しい法律を導入する意向を示している。将来の規制の潜在的な領域には、金融詐欺のための音声クローニングなど詐欺に使用されるディープフェイクや、知的財産と同意に関する疑問を提起するエンターテインメント業界におけるディープフェイクが含まれる。
また、法的措置を補完できる透かしや認証システムなどの技術的解決策への関心も高まっている。政策立案者、技術者、研究者間の協力が、効果的な対応を開発するために不可欠である。州の取り組みは、他の国や国際機関も規制枠組みを模索している中で、合成メディアをどのように統治するかについての世界的な議論の一部である。
要約すると、カリフォルニア州のAIディープフェイク法は、合成メディアによってもたらされる課題に対処するための重要な試みを表している。これらは最も差し迫った害、すなわち選挙干渉と非同意のポルノを対象としつつ、将来の調整の余地を残している。技術が進化するにつれて、法的環境も進化し、カリフォルニア州の経験は他の管轄区域にとって貴重な教訓を提供するだろう。