2023年6月、フロリダ州知事ロン・デサンティスを題材にした加工動画が、偽の推薦広告としてオンライン上で拡散された。このディープフェイクは、人工知能を使用して知事の肖像と声を重ね合わせたもので、彼の大統領選挙運動のプロモーションスポットとして提示された。この動画の信憑性は、ファクトチェッカーや報道機関によってすぐに疑問視され、本物の選挙運動資料ではなく合成物であると特定された。この出来事は、政治コミュニケーションにおける生成AIの役割の拡大と、選挙コンテンツの検証における課題に注目を集めた。
このディープフェイクは、2023年5月24日にデサンティスがイーロン・マスクとのTwitter Spacesイベントを通じて2024年共和党大統領候補指名への立候補を正式に表明した後の、政治活動が活発な時期に出現した。Twitter（現X）やYouTubeを含むソーシャルメディアプラットフォームに登場したこの偽広告は、デサンティスを彼の既知の公的発言や選挙運動メッセージと矛盾する形で描いていた。これは公式のデサンティス選挙運動によって制作されたものではなく、選挙運動側は報道機関への声明でこの動画を否定した。動画の出所は不明のままであったが、アナリストは、知事をパロディ化または信用失墜させようとする個人またはグループによって作成された可能性があると示唆した。
技術的特徴
このディープフェイクは、現代の生成AIに共通する技術、すなわち顔画像と音声録音の大規模データセットで訓練された深層学習モデルを採用していた。オートエンコーダーや生成的敵対ネットワークなどのニューラルネットワークアーキテクチャに基づくことが多いこれらのシステムは、対象人物の表情や話し方をソース俳優にマッピングすることで、リアルなビデオを合成できる。このケースでは、動画はデサンティスが公に発言していない言葉を話している様子を示し、唇の動きや声の抑揚が彼の癖を模倣していた。MIT CSAILやStanford AI Labなどの機関の研究者によって開発された検出ツールは、操作を示すまばたき、照明、音声周波数の不整合を指摘した。
プラットフォームの対応
ソーシャルメディアプラットフォームは、このディープフェイクへの対応について厳しい監視に直面した。所有者イーロン・マスクの下でTwitterは2022年にコンテンツモデレーションスタッフを削減しており、誤情報の拡散に関する懸念が生じていた。Google所有のYouTubeは、視聴者を誤解させる可能性のある操作されたコンテンツに対するポリシーを維持していたが、執行はまちまちであった。どちらのプラットフォームも動画を即座に削除せず、第三者ファクトチェッカーによってフラグが立てられるまで数日間流通し続けた。この出来事は、より堅牢な検出およびラベル付けシステムへの呼びかけを促し、一部の専門家はAI生成コンテンツへの必須ウォーターマークを提唱した。
政治的および法的影響
この偽広告は、連邦選挙運動における不正な虚偽表示を禁止する米国選挙法の下で法的疑問を提起した。連邦選挙委員会はまだディープフェイクに関する具体的な規則を発行しておらず、カリフォルニア州やテキサス州を含む一部の州は欺瞞的なAI生成政治コンテンツを犯罪とする法律を制定していた。フロリダ州自体は当時そのような法律を持っておらず、規制のギャップが残された。デサンティス選挙運動は法的措置を追求しなかったが、この出来事は2024年選挙サイクルの完全性に関するより広範な議論に貢献した。
より広い文脈
この出来事は、2023年に発生したAI生成政治コンテンツの波の一部であった。その年の初め、共和党全国委員会は、ジョー・バイデン大統領の下でのディストピア的未来を描いた純粋にAI生成の広告を公開したが、これは明確に合成物としてラベル付けされていた。対照的に、デサンティスのディープフェイクはラベル付けされておらず、より欺瞞的であった。BAIR (Berkeley AI Research)やUniversity of Oxfordの研究者は2023年半ばに、ディープフェイク検出が信頼できないままであり、高度なシステムでも誤り率が10%を超えることを示す研究を発表した。この出来事は、生成AIツールがよりアクセスしやすくなるにつれて、メディアリテラシーと技術的保護措置の必要性を強調した。
余波
この出来事の後、非営利団体OpenPanelを含むいくつかの擁護団体が、政治広告におけるAIを規制する連邦法を求めた。2023年8月、連邦選挙委員会はディープフェイクに対する権限を明確にする請願を検討すると発表したが、年末までに規則変更は行われなかった。デサンティス選挙運動自体は、短い否定を超えてこの動画に公に対処せず、代わりに伝統的な選挙運動イベントに焦点を当てた。このディープフェイクは学術的および政策的議論におけるケーススタディとして残り、Carnegie Mellon UniversityやStanford AI Labによる報告書で、民主的プロセスへの新たな脅威の例として引用された。