アメリカ合衆国におけるディープフェイク法は、人工知能システムによって生成された合成メディアの作成、配布、および使用を規制するために制定された、連邦法と州法の寄せ集めで構成されている。これらの法律は、選挙介入、非同意の親密な画像、詐欺、および名誉毀損など、ディープフェイクに関連するさまざまな害に対処している。法的環境は2010年代半ば以降急速に進化しており、生成AIの進歩と、アクセスしやすいディープフェイク作成ツールの普及によって推進されている。2025年時点で、米国の大多数の州が何らかの形のディープフェイク関連法を制定しているが、その範囲と執行メカニズムはかなり異なる。
ディープフェイクは「ディープラーニング」と「フェイク」の合成語であり、機械学習技術を使用して編集または生成された画像、動画、または音声を指す。この技術は、変分オートエンコーダーや生成的敵対ネットワーク（GAN）を含むニューラルネットワークを活用して、非常に現実的な合成メディアを作成する。偽コンテンツの作成行為はデジタル技術より前から存在するが、ディープフェイクはAIベースのツールを独自に使用して、実在または架空の人物を前例のない忠実度で描写できるメディアを生成する。この能力は、プライバシー、知的財産、および民主的完全性に関する重要な法的および政策的問題を提起している。
連邦レベルの立法努力
連邦レベルでは、議会がディープフェイクに対処する複数の法案を検討してきたが、2025年時点で包括的な法律は制定されていない。2019年に初めて提出されたディープフェイク説明責任法は、AI生成コンテンツにデジタル透かしを要求し、合成メディアの開示を怠った場合の刑事罰を提案していた。2020年に署名された生成的敵対ネットワークの出力識別法は、国立科学財団と国立標準技術研究所に対し、ディープフェイク検出とコンテンツの真正性に関する研究を支援するよう指示した。
複数の会期で再提出されたDEEPFAKES説明責任法は、ディープフェイクの作成者に対し、デジタル透かしを埋め込み、コンテンツの合成性を開示することを要求するものだった。この法案はまた、同意なしにディープフェイクに描写された個人のための私的訴権を創設することも提案していた。しかし、これらの連邦提案は、表現の自由の保護と規制目的を調整する上での課題に直面しており、いずれも両院での最終投票には進んでいない。
2023年と2024年には、連邦の注目は選挙関連のディープフェイクに移った。提案された選挙を欺瞞的AIから保護する法律は、選挙の120日以内に連邦候補者を描写する実質的に欺瞞的なAI生成音声または視覚メディアの配布を禁止するものだった。この法案は、ディープフェイクが選挙プロセスに干渉する可能性についての懸念の高まりを反映しており、学者や政策立案者は、偽情報やヘイトスピーチに関する懸念とともにこのリスクを強調している。
州レベルの規制：概要
州議会は、ディープフェイクに対処する上で連邦議会よりも積極的である。2025年までに、40以上の州が合成メディアに関連する法律を制定しており、そのほとんどは包括的な規制ではなく特定の害に焦点を当てている。2019年頃に始まった州法の第一波は、ディープフェイク技術が普及する前に多くの州で既に犯罪化されていた非同意の親密な画像（NCII）、いわゆるリベンジポルノを対象としていた。
カリフォルニア州はディープフェイク規制の先駆者として登場した。2019年、同州は選挙の60日以内に選挙公職候補者の実質的に欺瞞的な音声または視覚メディアの配布を禁止する議会法案730を制定した。同年、カリフォルニア州は同意なしのディープフェイクポルノの作成と配布を犯罪とする議会法案602を可決した。これらの法律は、選挙の完全性の規定と親密な画像の悪用に対する保護を組み合わせたテンプレートを確立し、他の州がこれに従うこととなった。
非同意の親密な画像法
ディープフェイク法の最も広く採用されているカテゴリーは、非同意の親密な画像に対処するものである。2025年時点で、ほぼすべての州が、デジタル改変またはAI生成の親密な画像をNCIIの定義に明示的に含める法律を有している。これらの法律は通常、同意なしに実在の人物を描写するディープフェイクポルノを作成または配布することに対して刑事罰を課し、罰則は管轄区域と状況に応じて軽罪から重罪までの範囲である。
テキサス州は2019年に、嫌がらせや害を与える意図でディープフェイクの親密な画像を作成または配布することを重罪とする、より厳格な法律の1つを制定した。この法律はまた、被害者が損害賠償と差止命令による救済を求めることを可能にする民事救済も提供している。ニューヨーク州は2022年に、合成親密な画像の配布を犯罪化する法律に続き、民事訴因も確立した。これらの法律は、ディープフェイクNCIIが被害者に深刻な心理的、 reputational、および経済的害を引き起こす可能性があるという認識を反映している。
一部の州は、NCII法をディープフェイクの親密な画像を作成するという脅迫にまで拡張している。例えば、イリノイ州は既存のリベンジポルノ法を改正して脅迫を含め、ディープフェイクの作成を単に脅すことが強制と支配の道具として使用され得ることを認識している。この拡張は、被害者の元の親密な画像なしで作成できるディープフェイクの独自の性質に対処している。
選挙および政治ディープフェイク法
選挙関連のディープフェイク法は、州規制の2番目の主要なカテゴリーを構成する。これらの法律は通常、選挙前の特定の期間（多くの場合60日または90日）内に政治候補者を描写する欺瞞的な合成メディアの配布を禁止する。そのような法律のほとんどは、コンテンツが実質的に欺瞞的であること、つまり合理的な人が候補者が実際には言っていないことや行っていないことを言ったまたは行ったと信じるであろうことを要求する。
2019年に制定されたカリフォルニア州のAB 730は、この種の最初の法律であった。これは、欺瞞的なディープフェイクに描写された候補者が差止命令による救済を求めることを許可し、民事罰を課した。ミネソタ州は2023年に同様の法律を可決し、ミシガン州、ワシントン州、ウィスコンシン州が独自のバージョンで続いた。2024年までに、少なくとも20の州が選挙関連のディープフェイク法を制定しており、その多くは2024年の大統領選挙前に施行された。
これらの法律は、修正第一条の異議申し立てに直面している。2024年、フロリダ州の連邦裁判所は、同州のディープフェイク選挙法の一部を、過度に広範であり保護された表現を萎縮させるとの判断で無効とした。この判決は、選挙の欺瞞を防ぐことと政治的表現を保存することの間の緊張を浮き彫りにし、その緊張は他の州での立法起草を形成し続けている。一部の州は、欺瞞的コンテンツの定義を狭めたり、風刺、パロディ、およびニュース報道のための免除を追加したりすることで対応している。
民事救済とパブリシティ権
刑事法を超えて、多くの州がパブリシティ権法を通じてディープフェイク被害者のための民事救済を拡大している。これらの法律は、個人の名前、画像、および肖像の商業的使用に対する管理を保護する。テネシー州は2024年、演奏者の声と画像のAI生成レプリカをパブリシティ権法に明示的に含めた最初の州となり、これは「肖像の保証、声、画像、およびセキュリティ（ELVIS）法」として知られている。この法律は、アーティストの声を無断で模倣したAI生成曲についての音楽業界からの懸念によって促された。
カリフォルニア州とニューヨーク州も、デジタルレプリカに対処するためにパブリシティ権法を改正している。カリフォルニア州の2020年の民法改正は、責任がAIを通じて作成された「デジタルレプリカ」に及ぶことを明確にした。ニューヨーク州の2020年の法律は、2021年に施行され、亡くなった演奏者のデジタルレプリカを含む死後パブリシティ権を創設した。これらの法律は、被害者がディープフェイクでの肖像の無断商業使用に対して損害賠償を求めて訴訟を起こすことを可能にする民事訴因を提供している。
詐欺および金融犯罪の規定
一部の州は、詐欺および金融犯罪の文脈でディープフェイクに対処している。これらの法律は、ディープフェイクが、音声クローニングによる不正取引の承認や、従業員を欺いて資金を送金させるビデオディープフェイクなど、金銭的利益のために個人を偽装するために使用され得ることを認識している。2025年時点で、少なくとも12の州が、既存の詐欺法を拡張するか、新しい犯罪を創設することにより、AI対応詐欺に特に対処する法律を制定している。
アリゾナ州とルイジアナ州は、ディープフェイク技術を使用して犯された犯罪に対する罰則を強化する法律を制定している。これらの法律は、合成メディアの使用を加重要因として扱い、身元盗難、電信詐欺、または恐喝などの基礎となる犯罪の重大性を高めている。このアプローチにより、検察官は既存の刑事枠組みを適用しながら、AI生成の欺瞞によってもたらされる独自の脅威を認識することができる。
検出および開示要件
増加する数の州が、AI生成コンテンツの開示を要求する法律を制定している。これらの法律は通常、ディープフェイクにラベルを付けたり透かしを入れたりして、視聴者にその合成性を知らせることを義務付けている。カリフォルニア州の2024年の法律は、2025年に施行され、大規模オンラインプラットフォームに対し、選挙や公衆衛生について視聴者を欺く可能性のあるAI生成コンテンツにラベルを付けることを要求している。この法律はまた、プラットフォームに対し、ユーザーがラベルのないディープフェイクを報告するためのツールを提供することを要求している。
ユタ州とコロラド州は同様の開示法を制定しており、コロラド州の2024年の法律は、政治広告が生成AIの使用を開示することを要求している。これらの開示要件は、視聴者がメディアの真正性について情報に基づいた判断を下すことを可能にすることにより、ディープフェイクの情報的害に対処することを目的としている。しかし、執行メカニズムはさまざまであり、一部の法律は政府の監視ではなくプラットフォームの自主規制に依存している。
執行の課題と批判
ディープフェイク法の執行は、重大な課題に直面している。インターネットの分散的な性質により、害が発生した管轄区域の外にいる可能性のある作成者を特定して起訴することが困難になっている。さらに、大規模言語モデルや他のAI技術の急速な進化は、検出ツールが生成能力に遅れをとることが多いことを意味している。画像フォレンジック研究者は、操作された画像を検出する技術を開発してきたが、これらの方法は最も洗練されたディープフェイクに対して常に信頼できるわけではない。
ディープフェイク法の批評家は、過度の広がりと正当な表現への萎縮効果について懸念を提起している。アーティスト、ジャーナリスト、および風刺作家は、一部の法律が、合成メディアを使用する政治的パロディやドキュメンタリー映画などの保護された表現を抑制するために使用される可能性があると主張している。アメリカ自由人権協会および他の擁護団体は、ディープフェイク法に修正第一条の根拠で異議を唱えるいくつかの訴訟でアミカスブリーフを提出しており、欺瞞を防ぐという政府の利益がコンテンツへの広範な制限を正当化しないと主張している。
もう一つの批判は、州法の不整合に関するものであり、これによりプラットフォームと作成者にとって複雑なコンプライアンス環境が生み出されている。ある州で合法であるディープフェイクが別の州では犯罪である可能性があり、連邦の統一性の欠如は州を越えた執行を複雑にしている。一部の法学者は、州がより厳格な保護を制定することを可能にしながら、最低基準を確立する連邦枠組みを求めている。
将来の方向性
2025年時点で、米国におけるディープフェイクの法的環境は依然として流動的である。連邦法は提案されているが制定されておらず、州法は技術的発展と裁判所の課題に応じて進化し続けている。最高裁判所はまだディープフェイク法の合憲性について判決を下しておらず、下級裁判所が規制と表現の自由の間のバランスに取り組むことを余儀なくされている。
新たな問題には、OpenAIや他の企業が現実的なビデオと音声を生成できるツールを開発しているエンターテインメント業界でのディープフェイクの使用が含まれる。ディープフェイクがメディア産業を混乱させる可能性は、業界の自主規制とコンテンツの来歴に関する技術標準の呼びかけを促している。コンテンツの来歴と真正性のための連合は、デジタルコンテンツの起源と履歴を検証できる暗号署名されたメタデータの技術仕様を開発した業界団体である。
いくつかの州の立法者は、2025年から2026年の会期で、ディープフェイクに描写された個人の保護を拡大する法案を提出しており、迅速な削除手続きと悪意のある使用に対する強化された損害賠償の規定が含まれている。一部の提案は、プラットフォームにディープフェイク検出ツールを実装し、指定された期間内にフラグが付けられたコンテンツを削除することを要求するものだ。これらの提案は、AI生成の合成メディアによってもたらされる課題に法的枠組みを適応させるための継続的な努力を反映している。