2019年のペロシのディープフェイク（2019年）とは、2019年5月にソーシャルメディア上で広く拡散された、当時のアメリカ合衆国下院議長ナンシー・ペロシの映像を操作した動画を指す。この動画は、人工知能や機械学習を用いて合成コンテンツを生成するという技術的な意味でのディープフェイクではなく、単純な編集技術によって映像の速度を約75%に落とし、彼女の声のピッチを変えて、ろれつが回らなかったり酩酊しているように見せかけた「チープフェイク」と呼ばれるものであった。この出来事は、操作されたメディアに対する一般の理解における画期的な事例となり、低技術の改変が高度なAI生成コンテンツと同様に欺瞞的であり得ることを浮き彫りにした。
元の映像は、2019年5月23日にペロシがアメリカ進歩センターで行った演説からのものであった。改変版は、最初にFacebookに登場し、Facebook、Twitter、YouTubeを含む各プラットフォームで数百万回視聴された。これは、当時のドナルド・トランプ大統領を含む著名人によって共有され、トランプは文脈なしにその動画をツイートした。この拡散は、誤情報の性質、ソーシャルメディアプラットフォームの責任、そして操作されたメディアが民主的なプロセスを損なう可能性についての広範なメディア報道と公開の議論を促した。
技術的な性質とディープフェイクとの区別
真のディープフェイクが深層学習やニューラルネットワークモデルを用いて顔を生成または置換するのに対し、ペロシの動画は基本的なビデオ編集によって作成された。速度低下は再生速度とピッチを調整することで達成され、この技術には特別なソフトウェアや技術的専門知識は不要である。この区別は、誤情報が必ずしも高度な技術を必要としないことを示すため、極めて重要であり、単純なツールでも観客を欺く上で同等に効果的であり得る。「チープフェイク」という用語は、こうした低コストの操作を表現するために造られ、AIベースのディープフェイクの高いリソース要件とは対照的である。
この動画の効果は、その妥当性にあった。ペロシの演説自体がもともと慎重で落ち着いた口調で行われていたため、速度を落とすことで不自然に見えるほど誇張された。彼女の話し方に馴染みのない視聴者は、改変版を本物として受け入れる可能性が高かった。この事例は、メディアリテラシーの重要性と、技術的な洗練度に関係なく、操作されたコンテンツを検出しラベル付けするためのポリシーをプラットフォームが開発する必要性を強調した。
プラットフォームの対応とポリシー論争
Facebookは当初、検閲に対するポリシーを理由に動画を削除しなかったが、ファクトチェッカーがフラグを付けた後、後に「部分的に虚偽」と説明する警告ラベルを追加した。Twitterも削除を拒否し、CEOのジャック・ドーシーは、特定のルールに違反しない限りコンテンツを削除しないと述べた。YouTubeは動画を残すことを許可したが、収益化を無効にし、ファクトチェックリンクを追加した。これらの対応は一貫性を欠き、研究者や議員から、プラットフォームが操作されたメディアを扱うためのより明確なガイドラインを必要としているとの批判を招いた。
この出来事は、コンテンツモデレーションポリシーに関する議論を加速させた。数ヶ月のうちに、主要プラットフォームは合成および操作されたメディアに対処するためのより堅牢な枠組みを開発し始めた。2020年初頭までに、Facebookは誤解を招く可能性が高いディープフェイクを削除するポリシーを発表したが、「パロディ」と「風刺」は引き続き許可した。Twitterも2020年3月に同様のポリシーを導入し、害を引き起こす可能性のある操作されたメディアにラベルを付けた。ペロシの動画は、表現の自由と誤情報の防止のバランスを取る課題を示す、これらのポリシー論争における参照点となった。
法的および政治的な影響
この動画は、既存の法律とその操作されたメディアへの適用可能性について疑問を提起した。アメリカ合衆国では、当時、ディープフェイクやチープフェイクを具体的に扱う連邦法は存在しなかった。カリフォルニア州などの一部の州では、後に政治的文脈におけるディープフェイクを対象とした法律を制定したが、2019年時点ではこれらは施行されていなかった。ペロシ自身は法的措置を取らなかったが、彼女の事務所はこの動画を「性差別的なゴミ」と非難し、プラットフォームに責任を取るよう求めた。
この出来事はまた、偽情報のジェンダー化された性質を浮き彫りにした。ペロシは、高位の女性政治家として、女性の無能さや酩酊というステレオタイプを利用した攻撃の対象となった。研究者は、政治における女性が、その信頼性と職務適格性を損なうことを目的とした、こうした戦術に不釣り合いなほど標的にされていると指摘した。この事例のこの側面は、ジェンダー、メディア、政治の交差点を研究する学者の注目を集めた。
遺産と誤情報研究への影響
ペロシの動画は、誤情報研究におけるケーススタディとなり、学術論文や政策報告書で引用された。これは、操作されたメディアの脅威がAI生成コンテンツに限定されず、単純な編集が現実世界で重大な結果をもたらし得ることを示した。「チープフェイク」という用語はメディア研究者の語彙に入り、より広く知られる「ディープフェイク」を補完するものとなった。スタンフォードAI研究所やバークレーAI研究機関などの機関の研究者は、この事例を情報生態系の分析に組み込んだ。
この出来事は、検出ツールやファクトチェック手法の開発にも影響を与えた。ゼロックス・パークやMITコンピュータ科学・人工知能研究所などの組織は、操作された動画を識別するための自動化手法を探求したが、これらの取り組みは改変の微妙な性質のために課題に直面した。この事例は、自動システムが無害な編集と悪意のある操作を区別するのにしばしば苦労するため、技術的解決策に加えて人間の監視が必要であることを強調した。
より広い文脈と継続的な関連性
この出来事の後の数年で、操作されたメディアの状況は大きく進化した。生成AIや大規模言語モデル技術の進歩により、現実的な合成コンテンツを作成することが容易になり、信憑性と信頼に関する新たな懸念が生じている。しかし、ペロシの動画は、すべての誤情報が最先端の技術を必要とするわけではないことを思い出させるものとして残っている。2024年時点でも、この動画はソーシャルメディア上で定期的に再浮上し、しばしば文脈なしに拡散されており、そのようなコンテンツの永続性を示している。
この事例はまた、メディア操作に対する一般の認識向上にも貢献した。この出来事の後に行われた調査では、改変された動画が欺く可能性があるという認識がアメリカ人の間で高まったことが示された。この認識は、メディアリテラシー教育とプラットフォームの説明責任を求める声の高まりと共に進んでいる。ペロシの動画は、技術的には単純であるが、デジタル誤情報の課題を社会がどのように理解し対応するかについて、永続的な影響を与えてきた。