2019年6月、Meta Platforms（当時はFacebook）のCEOであるマーク・ザッカーバーグを描いた加工ビデオがソーシャルメディア上で広く拡散され、ディープフェイク技術が一般の言説に流入した初期の最も顕著な例の一つとなった。約1分間のこのクリップは、ザッカーバーグが、Facebookがユーザーに対して持つ力について不自然な口調で独白を届ける様子を示していた。このビデオはザッカーバーグや同社によって制作されたものではなく、アーティストとデジタルエフェクトスタジオによって、合成メディアの危険性を実証する目的で作成された。
このビデオは、英国のデジタルアーティストであるビル・ポスターズによって制作され、広告代理店と協力して行われた。視覚操作のソースは、カスタムのディープラーニングシステムであり、これは人工知能の一種で、リアルな画像や音声を合成することができる。この作品は、英国のシェフィールド・ドック/フェストでの展覧会のために依頼され、そこで初公開された後、オンラインで公開された。
制作と技術的基盤
作成者たちは、ニューラルネットワークとして知られる機械学習技術を使用して、実際の映像からザッカーバーグの顔の動きをマッピングし、...その結果のビデオは視覚トラックと音声トラックの両方を操作し、ザッカーバーグの自然な音声パターンに一致しないナレーションが含まれていた。基盤となる技術は、過去10年間に学術および産業研究環境で開発されてきた深層学習と生成AIの進歩を活用していた。このビデオは単純な編集ではなく、合成された再構築であり、ディープフェイクアルゴリズムが本人の同意なしに公的人物に適用される可能性を示すものだった。
この作品は、ポスターズによるシリーズ「未来の戦争」の一部であり、これには元米国大統領バラク・オバマのディープフェイクや、スパイス・ガールズの架空の女王によるスピーチも含まれていた。ザッカーバーグのビデオでは、チームはザッカーバーグの公開された人物のデータセットに依存し、ニュースインタビューやスピーチから彼の表情や唇の動きを捉える、顔交換技術を使用した。
2. 公的な反応と商業的反応
公開後、ビデオはInstagramなどのプラットフォームでバイラルになり、ザッカーバーグの同社は... これに対応して、Facebookは、たとえ誤解を招くものであっても、中傷やコミュニティ基準への違反でないコンテンツを削除する方針を理由に、ビデオを削除しないことを決定した。同社は、ビデオを「偽」とフラグ付けするファクトチェックラベルを追加し、第三者検証組織からの文脈を提供した。この決定は、プラットフォームが以前にナンシー・ペロシのビデオ（彼女が支離滅裂なスピーチをしているように見せるために極端に遅くしたもの）を削除した措置とは対照的だった。
このエピソードは、プラットフォームのガバナンスと発信型会メディアの拡散に関する議論における参照点となった。特に、生成AIの時代におけるコンテンツモデレーションの限界を浮き彫りにし、プラットフォームが表現の自由と操作の可能性のバランスを取るのに苦慮したことした。その後、2020年にFacebookは、深刻な害を引き起こす可能性のある誤解を招く加工ビデオを禁止する方針を更新したが、2019年の事件はそのような規則を装着する課題のケーススタディとして残った。
3. 合成メディアへの広範な影響
このビデオは、ディープフェイクの社会的リスク、特に政治的な誤情報、非同意のポルノグラフィー、および金融詐欺での使用の可能性に関する議論でしばしば引用される。研究者や政策立案者は、ザッカーバーグのクリップが風刺作品である一方、基幹技術が悪意を持って使用される可能性があることを指摘した。また、ビデオが多くの視聴者を欺くのに十分説得力があったため、自動検出の困難さも浮き彫りにした。
この事件は、ディープフェイク検出に関する学術研究の波に貢献し、MIT CSAILやスタンフォードAIラボなどの機関が、操作されたメディアを特定するアルゴリズムを開発した。また、アドボカシー団体や、欺瞞的な合成メディアを犯罪化する提案を含む米国議会の立法努力にも寄与した。その後の数年間、大規模言語モデルやその他の生成ツールの急速な進化により、合成コンテンツの範囲が拡大し、2019年のビデオは古いが初期世代のディープフェイクの教訓的な例となった。
5. 遺産とその後の発展
振り返って、このビデオはAI生成コンテンツの一般理解における基準点として認識されている。それは、この技術がもはや研究ルームに限らず、オープンソースのツールヒアクセスできるアーティストやホビーストによっても導入できることを実証した。作成者は後、2016年にザッカーバーグのフォローアップ・ディープフェイクをリリースし、元のビデオはファクトチェックラベル付きでYouTubeなどのプラットフォームに現在も保存されている。
この事件はまた、Adobeが共同設立し、最終的に大手技術企業に採用されたコンテンツ認証機構（Content Authenticity Initiative）など、デジタルコンテンツの出所を追跡する標準の発展も加速させた。2020年代半ばには、AI生成の画像とビデオの広がりが、ウォーターマークや透明性対策の広範な要求を導きのがあり、ザッカーバーグのクリップはその議論での初期の触媒としてしばしば絡められた。
関連項目
- 生成AI - ai-safety（リスト外） - ディープフェイク検出（リスト外）
注：提供されたリストに限定；いくつかの関連トピック（例：ai-safety、ディープフェイク検出）は利用可能なスラッグに含まれていないため、使用されている2つのリンクのみが含まれています。
参考文献
- フィード他 (2019)。マーク・ザッカーバーグのディープフェイクをどのように作成したか。ことに。 2. BBCニュース. (2019)。 マーク・ザッカーバーグ のディープフェイクビデオ：それが何を示すのか。 3. Facebook ニュースルーム。 (2019)。加工メディアに関するポリシー。
注意：参考文献は例示であり、指示に従って外部URLで引用されていません。