2019년 딥페이크 스캔들은 2019년 5월, 당시 미국 하원의장이었던 낸시 펠로시의 조작된 동영상이 바이럴하게 퍼진 사건을 가리킨다. 원본 속도의 약 75%로 느려지고 음성 피치가 변조된 이 동영상은 펠로시가 말을 더듬고 불규칙하게 움직이는 것처럼 보이게 만들어, 그녀가 취한 상태라는 잘못된 인상을 심어주었다. 이 동영상은 엄밀한 기술적 의미에서 딥페이크는 아니었지만 - 생성형 AI나 신경망을 사용하지 않았다 - 합성 미디어와 AI 기반 조작이 허위 정보를 확산시킬 가능성에 대한 대중의 인식에 전환점이 되었다. 이 사건은 광범위한 언론 보도, 플랫폼 정책 논쟁, 그리고 조작된 미디어 규제에 관한 입법적 논의를 촉발했다.
이 동영상은 2019년 5월 23일 페이스북에 처음 등장했으며, 트위터와 유튜브를 포함한 다른 플랫폼으로 빠르게 퍼져나갔다. 며칠 만에 수백만 회의 조회수를 기록했다. 페이스북은 처음에 검열 방침을 근거로 동영상을 삭제하지 않겠다고 밝혔지만, 이후 사실 확인(fact-checking) 라벨을 추가하고 배포를 축소했다. 트위터와 유튜브 역시 콘텐츠 처리 방식에 대해 비판을 받았다. 이 사건은 소셜 미디어 플랫폼이 조작된 미디어를 탐지하고 대응하는 데 직면한 과제를 부각시켰으며, 머신 러닝과 컴퓨터 비전 기술을 활용한 자동 탐지 도구 개발 노력을 촉진했다.
기술적 배경
펠로시 동영상은 딥 러닝 방식으로 제작되지 않았지만, 공개 담론에서 딥페이크와 널리 혼동되었다. 딥페이크는 '딥 러닝(deep learning)'과 '페이크(fake)'의 합성어로, 인공지능 도구를 사용하여 편집되거나 생성된 이미지, 동영상, 또는 오디오를 가리킨다. 이 기술은 딥 러닝 기법, 특히 생성적 적대 신경망(GAN)과 변분 오토인코더에 의존하여 사실적이지만 조작된 콘텐츠를 만든다. 반면 펠로시 동영상은 AI가 필요 없는 간단한 동영상 편집 소프트웨어로 영상을 느리게 만든 것이었다. 그럼에도 이 사건은 저기술 조작조차도 바이럴한 도달 범위를 달성하고 심각한 명예 훼손을 초래할 수 있음을 보여주었다.
2010년대 중반 GAN의 개발로 정교한 딥페이크가 이미 가능해졌지만, 펠로시 동영상은 조잡한 조작조차 허위 정보 확산에 효과적일 수 있음을 보여주었다. 이러한 인식은 연구자와 정책 입안자들이 AI 생성 콘텐츠와 기존 편집 콘텐츠를 모두 포함하는 합성 미디어라는 더 넓은 범주에 주목하게 만들었다. 이 사건은 또한 얼굴 움직임 분석, 오디오 불일치, 메타데이터 분석과 같은 탐지 방법에 대한 연구를 가속화했다.
플랫폼 대응
페이스북이 동영상을 게시한 채 사실 확인 라벨을 추가하기로 한 초기 결정은 정치인, 언론인, 옹호 단체의 비판을 불러일으켰다. 회사는 이후 특정 상황에서 오해를 불러일으키는 조작된 미디어를 삭제하도록 정책을 업데이트했지만, 펠로시 사건은 기존 중재 시스템의 한계를 드러냈다. 트위터 역시 동영상을 유지한 데 대해 비판을 받았지만, 결국 경고 라벨을 추가했다. 구글이 소유한 유튜브는 처음에는 저작권 신고로 동영상을 삭제했지만, 나중에 사실 확인 메모를 붙여 다시 게시했다.
이 사건은 조작된 미디어에 관한 플랫폼 정책에 대한 조사를 강화하게 만들었다. 이후 몇 달 동안 페이스북은 시청자를 오도할 가능성이 있는 딥페이크를 금지한다고 발표했고, 트위터도 유사한 정책을 도입했다. 이러한 조치는 마이크로소프트와 같은 기업과 학술 기관이 개발한 탐지 도구를 포함하는, AI 생성 허위 정보의 증가하는 위협에 대한 업계 차원의 대응의 일부였다.
정치적·법적 영향
펠로시 동영상은 선거 보안과 민주적 과정의 무결성에 관한 논쟁의 쟁점이 되었다. 당시 상원의원이던 카멀라 해리스와 하원의장 낸시 펠로시를 포함한 의원들은 소셜 미디어 기업들이 조작된 미디어에 대해 더 강력한 조치를 취할 것을 촉구했다. 이 사건은 또한 2019년 6월 미국 하원에서 발의된 딥페이크 책임법(Deepfakes Accountability Act)과 같은 입법 제안을 촉발했는데, 이 법안은 딥페이크 제작자에게 콘텐츠에 라벨을 부착하도록 요구할 것이다.
국제적으로, 이 사건은 합성 미디어 규제에 관한 더 넓은 논의에 기여했다. 딥페이크가 '환면(換面, 얼굴 바꾸기)'으로 알려진 중국에서는 2019년에 딥페이크 콘텐츠에 명확한 라벨을 부착하고 묘사된 개인의 동의를 얻도록 요구하는 규정을 도입했다. 유럽 연합도 허위 정보에 대응하기 위한 조치를 모색했으며, 이에는 허위 정보에 관한 행동 강령(Code of Practice on Disinformation)이 포함되었다.
대중 인식과 언론 보도
이 스캔들은 딥페이크와 합성 미디어에 대한 대중의 인식을 크게 높였다. 뉴욕 타임스, 워싱턴 포스트, CNN을 포함한 주요 언론 매체가 해당 기술과 그 함의를 설명하는 광범위한 보도를 내보냈다. 이 사건은 또한 딥페이크의 사회적, 윤리적 차원을 연구하는 학술 연구에 불을 지폈으며, 학자들은 그러한 콘텐츠가 어떻게 확산되는지와 그 영향을 어떻게 차단할지 조사했다.
2020년에 발표된 연구에 따르면 부정성과 감정적 반응이 소셜 미디어에서 딥페이크 공유의 주요 동인이었으며, 이는 펠로시 동영상의 바이럴성과 일치하는 결과였다. 이 사건은 또한 미디어 리터러시 교육의 필요성을 부각시켰는데, 많은 시청자가 처음에는 동영상을 진짜라고 믿었기 때문이다. 이에 대응하여 스탠포드 AI 연구소와 MIT 컴퓨터 과학 및 인공지능 연구소와 같은 기관은 교육 자료와 탐지 도구를 개발했다.
유산
2019년 딥페이크 스캔들은 합성 미디어에 대한 대중의 이해에 전환점으로 자주 언급된다. 이 사건은 단순한 조작조차 공공의 신뢰를 훼손할 수 있음을 보여주었고, 강력한 탐지 및 대응 전략의 개발이 시급함을 강조했다. 또한 이 사건은 잔차 네트워크와 U-Net 아키텍처를 활용한 연구를 포함하여 딥페이크 탐지에 대한 후속 연구에 영향을 미쳤으며, 콘텐츠 진위 및 출처 연합(C2PA) 이니셔티브와 같은 콘텐츠 진위성에 대한 업계 표준 개발에도 기여했다.
유산
2019년 딥페이크 스캔들은 합성 미디어에 대한 대중의 이해에 전환점으로 자주 언급된다. 이는 단순한 조작조차도 영상 증거에 대한 신뢰를 훼손할 수 있음을 보여주었고, 견고한 탐지 및 완화 전략의 시급성을 강조했다. 이 사건은 이후 잔차 네트워크 및 U-Net 아키텍처를 포함한 딥페이크 탐지 연구에 영향을 주었으며, 콘텐츠 진위성 및 출처 인증을 위한 산업 표준 개발에 기여했다. 오늘날까지도 많은 기술 회사와 학술 연구자들은 점점 더 정교해지는 AI 생성 미디어에 대응하기 위해 이 사건에서 얻은 교훈을 활용하고 있다.
그 후 몇 년 동안 딥페이크 기술은 더욱 설득력 있고 접근하기 쉬워졌다. 2019년 스캔들은 합성 미디어의 사회적 영향에 대한 논의의 기준점으로 계속 언급되며, 학술 문헌과 정책 보고서에 자주 인용된다. 이 사건은 또한 이후 정치 캠페인에서의 딥페이크 사용과 AI 생성 콘텐츠의 확산과 같은 논란을 예고했다. 이 스캔들은 허위 정보, 미디어 리터러시, 그리고 빠르게 진화하는 디지털 환경에서 기술 기업과 정부의 책임에 대한 지속적인 대화의 촉매제가 되었다.