2019年のディープフェイクスキャンダルとは、2019年5月に当時米国下院議長だったナンシー・ペロシの動画が改変され、拡散した事件を指す。この動画は元の速度の約75%にスローダウンされ、音声のピッチも変更されており、ペロシがろれつが回らず、動作も不安定に見えるように加工され、彼女が酩酊状態であるかのような誤った印象を与えた。この動画は厳密な意味でのディープフェイクではなく、生成AIやニューラルネットワークは使用されていなかったが、合成メディアとAIベースの操作が偽情報を拡散する可能性について、一般の認識を高める転機となった。この事件は広範なメディア報道、プラットフォームのポリシーに関する議論、および改変メディアの規制に関する立法論議を引き起こした。
この動画は2019年5月23日にFacebookで初めて公開され、その後TwitterやYouTubeを含む他のプラットフォームにも急速に拡散した。数日以内に数百万回視聴された。Facebookは当初、検閲に対する自社のポリシーを理由に動画の削除を拒否したが、後にファクトチェックのラベルを追加し、配信を制限した。TwitterとYouTubeもコンテンツの扱いについて批判に直面した。この事件は、ソーシャルメディアプラットフォームが改変メディアを検出し対応する際に直面する課題を浮き彫りにし、機械学習とコンピュータビジョンを用いた自動検出ツールの開発努力を促進した。
技術的背景
ペロシの動画はディープラーニング手法を用いて作成されたわけではなかったが、一般の議論ではディープフェイクと混同されることが多かった。ディープフェイクとは「ディープラーニング」と「フェイク」を組み合わせた造語であり、人工知能ツールを用いて編集または生成された画像、動画、音声を指す。この技術はディープラーニング技術、特に生成的敵対ネットワーク（GAN）や変分オートエンコーダーに依存しており、現実的でありながらも偽造されたコンテンツを生成する。対照的に、ペロシの動画は単純な動画編集ソフトウェアを使用してスローダウンされたものであり、AIは必要とされなかった。それにもかかわらず、この事件は、低技術の操作でも広く拡散され、重大な評判上の損害を引き起こす可能性があることを示した。
2010年代半ばにGANが開発されたことで、高度なディープフェイクが可能になっていたが、ペロシの動画は、粗雑な操作でも偽情報の拡散に効果的であり得ることを示した。この認識により、研究者や政策立案者は、AI生成コンテンツと従来型の編集コンテンツの両方を含む、より広範な合成メディアのカテゴリに注目するようになった。この事件はまた、顔の動き、音声の不整合、メタデータの分析など、検出方法の研究を加速させた。
プラットフォームの対応
Facebookが動画を削除せずファクトチェックのラベルを追加したという当初の決定は、政治家、ジャーナリスト、擁護団体から批判を浴びた。同社は後に、特定の状況下で誤解を招く改変メディアを削除するようポリシーを更新したが、ペロシ事件は既存のモデレーションシステムの限界を露呈した。Twitterも動画を残したままにしたことで批判に直面したが、最終的には警告ラベルを追加した。YouTubeは当初、著作権侵害の申し立てを受けて動画を削除したが、後にファクトチェックの注記を付けて復元した。
この事件により、改変メディアに関するプラットフォームのポリシーに対する監視が強化された。その後数ヶ月の間に、Facebookは視聴者を誤解させる可能性が高いディープフェイクの禁止を発表し、Twitterも同様のポリシーを導入した。これらの措置は、マイクロソフトや学術機関による検出ツールの開発を含む、AI生成の偽情報という脅威に対する業界全体の対応の一部であった。
政治的・法的影響
ペロシの動画は、選挙の安全性と民主的なプロセスの完全性に関する議論の焦点となった。当時上院議員だったカマラ・ハリスや下院議長のナンシー・ペロシ自身を含む議員らは、ソーシャルメディア企業に対し、改変メディアに対するより強力な対策を求めた。この事件はまた、ディープフェイクの作成者にコンテンツのラベル付けを義務付ける2019年6月に米国下院で提出されたディープフェイク説明責任法などの立法提案を促した。
国際的には、この事件は合成メディアの規制に関するより広範な議論に貢献した。中国では、ディープフェイクが「換臉」（顔交換）として知られているが、政府は2019年に、ディープフェイクコンテンツに明確なラベルを付け、作成者が描写された個人から同意を得ることを義務付ける規制を導入した。欧州連合も偽情報に対処するための措置の検討を開始し、偽情報に関する実務規範を策定した。
一般の認識とメディア報道
このスキャンダルは、ディープフェイクと合成メディアに対する一般の認識を大幅に高めた。ニューヨーク・タイムズ、ワシントン・ポスト、CNNなどの主要メディアは、この技術とその影響について広範な報道を行った。この事件はまた、ディープフェイクの社会的・倫理的側面に関する学術研究を促進し、学者らはそのようなコンテンツがどのように拡散し、その影響に対抗する方法を調査した。
2020年に発表された研究では、ネガティブな感情と感情的反応がソーシャルメディアでのディープフェイク共有の主な要因であることが判明し、この発見はペロシ動画のバイラル性と一致した。この事件はまた、メディアリテラシー教育の必要性を浮き彫りにし、多くの視聴者が当初この動画を本物だと信じていた。これを受けて、スタンフォードAIラボやMITコンピュータ科学・人工知能研究所などの組織が、教育リソースと検出ツールを開発した。
遺産
2019年のディープフェイクスキャンダルは、合成メディアに対する一般の理解における転換点としてしばしば引用される。単純な操作でも映像証拠への信頼を損なう可能性があることを示し、堅牢な検出および緩和戦略の開発の緊急性を強調した。この事件はまた、残差ネットワークやU-Netアーキテクチャの使用など、その後のディープフェイク検出研究に影響を与え、コンテンツ真正性のための業界標準、例えばコンテンツ生成・認証連合（C2PA）イニシアチブの開発に貢献した。
それ以降、ディープフェイク技術は進化を続け、より説得力があり、アクセスしやすくなっている。2019年のスキャンダルは、AI生成メディアの社会的影響に関する議論の参照点であり続け、学術文献や政策討論で頻繁に引用されている。この事件はまた、政治キャンペーンでのディープフェイクの使用や、ソーシャルメディアプラットフォームでのAI生成コンテンツの普及など、その後の論争を予見するものでもあった。