2019년 펠로시 딥페이크(Pelosi Deepfake)는 2019년 5월 소셜 미디어에서 널리 유포된 낸시 펠로시(Nancy Pelosi) 당시 미국 하원의장의 조작된 동영상을 가리킨다. 이 동영상은 Artificial intelligence이나 Machine learning을 사용하여 합성 콘텐츠를 생성한다는 기술적 의미의 딥페이크가 아니라, 단순한 편집 기술로 영상을 원래 속도의 약 75%로 늦추고 목소리의 음높이를 변경하여 그녀가 어눌하거나 취한 것처럼 보이게 만든 '저비용 딥페이크(cheapfake)'였다. 이 사건은 조작된 미디어에 대한 대중의 이해에 있어 획기적인 사례로, 저기술적 변형이 정교한 AI 생성 콘텐츠만큼이나 기만적일 수 있음을 강조했다.
원본 영상은 2019년 5월 23일 펠로시가 미국진보센터(Center for American Progress)에서 한 연설이었다. 처음 페이스북에 등장한 조작 버전은 페이스북, 트위터, 유튜브 등 플랫폼에서 수백만 회 조회되었다. 당시 대통령이던 도널드 트럼프(Donald Trump)를 포함한 저명 인사들이 맥락 없이 이 영상을 공유했다. 유포는 허위 정보의 본질, 소셜 미디어 플랫폼의 책임, 그리고 조작된 미디어가 민주적 과정을 훼손할 가능성에 대한 광범위한 언론 보도와 공개 논쟁을 촉발했다.
기술적 특성과 딥페이크와의 구별
진정한 딥페이크가 Deep learning과 Neural network 모델을 사용하여 얼굴을 생성하거나 대체하는 것과 달리, 펠로시 영상은 기본적인 영상 편집을 통해 만들어졌다. 느리게 재생하는 것은 재생 속도와 음높이를 조정하여 이루어졌으며, 이는 특별한 소프트웨어나 기술적 전문성을 요구하지 않는 기법이다. 이러한 구별은 허위 정보가 항상 고급 기술을 필요로 하는 것은 아니며, 단순한 도구도 청중을 기만하는 데 동일하게 효과적일 수 있음을 보여주기 때문에 중요하다. '저비용 딥페이크(cheapfake)'라는 용어는 AI 기반 딥페이크의 고비용 요구와 대조되는 이러한 저비용 조작을 설명하기 위해 만들어졌다.
영상의 효과는 그 개연성에 있었다. 펠로시의 연설은 이미 신중하고 차분한 어조로 전달되었으며, 느리게 재생함으로써 이를 부자연스러워 보일 정도로 과장했다. 그녀의 말투에 익숙하지 않은 시청자들은 조작된 버전을 진짜로 받아들일 가능성이 더 높았다. 이 사례는 미디어 리터러시의 중요성과 플랫폼이 기술적 정교함과 관계없이 조작된 콘텐츠를 탐지하고 표시하는 정책을 개발할 필요성을 강조했다.
플랫폼 대응과 정책 논쟁
페이스북은 처음에 검열 정책을 이유로 영상 삭제를 거부했지만, 팩트체커가 문제를 제기한 후 '부분적으로 거짓'이라고 설명하는 경고 라벨을 추가했다. 트위터도 삭제를 거부했으며, 잭 도시(Jack Dorsey) CEO는 특정 규칙을 위반하지 않는 한 콘텐츠를 삭제하지 않을 것이라고 밝혔다. 유튜브는 영상을 유지했지만 수익 창출을 중단하고 팩트체크 링크를 추가했다. 이러한 대응은 일관성이 없었으며, 연구자와 입법자들은 플랫폼이 조작된 미디어를 처리하기 위한 더 명확한 지침이 필요하다고 비판했다.
이 사건은 콘텐츠 모더레이션 정책에 대한 논의를 가속화했다. 이후 몇 달 동안 주요 플랫폼은 합성 및 조작된 미디어를 다루기 위한 더 견고한 체계를 개발하기 시작했다. 2020년 초, 페이스북은 오해를 불러일으킬 가능성이 있는 딥페이크를 삭제하는 정책을 발표했지만, '패러디'와 '풍자'는 계속 허용했다. 트위터는 2020년 3월 유사한 정책을 도입하여 해를 끼칠 수 있는 조작된 미디어에 라벨을 붙였다. 펠로시 영상은 표현의 자유와 허위 정보 방지의 균형을 맞추는 어려움을 보여주는 이러한 정책 논쟁의 기준점이 되었다.
법적 및 정치적 함의
이 영상은 기존 법률과 조작된 미디어에 대한 적용 가능성에 대한 의문을 제기했다. 미국에는 당시 딥페이크나 저비용 딥페이크를 구체적으로 다루는 연방 법률이 없었다. 캘리포니아와 같은 일부 주에서는 이후 정치적 맥락에서 딥페이크를 겨냥한 법률을 제정했지만, 2019년에는 시행되지 않았다. 펠로시 자신은 법적 조치를 취하지 않았지만, 그녀의 사무실은 이 영상을 '성차별적 쓰레기'라고 비난하고 플랫폼에 책임을 질 것을 촉구했다.
이 사건은 허위 정보의 젠더적 특성도 부각했다. 고위직 여성 정치인인 펠로시는 여성의 무능력과 취함에 대한 고정관념을 이용한 공격의 대상이 되었다. 연구자들은 정치계의 여성이 이러한 전술에 불균형적으로 표적이 되며, 이는 그들의 신뢰성과 직무 적합성을 훼손하는 것을 목표로 한다고 지적했다. 사건의 이러한 측면은 젠더, 미디어, 정치의 교차점을 연구하는 학자들의 관심을 끌었다.
유산과 허위 정보 연구에 미친 영향
펠로시 영상은 허위 정보 연구의 사례 연구가 되어 학술 논문과 정책 보고서에서 인용되었다. 이는 조작된 미디어의 위협이 AI 생성 콘텐츠에 국한되지 않으며, 단순한 편집도 상당한 실제 세계적 결과를 초래할 수 있음을 보여주었다. '저비용 딥페이크(cheapfake)'라는 용어는 더 널리 알려진 '딥페이크'를 보완하며 미디어 학자들의 용어집에 들어갔다. Stanford AI Lab과 BAIR (Berkeley AI Research) 같은 기관의 연구자들은 이 사례를 정보 생태계 분석에 통합했다.
이 사건은 탐지 도구와 팩트체킹 방법론의 개발에도 영향을 미쳤다. Xerox PARC과 MIT CSAIL 같은 조직은 조작된 영상을 식별하는 자동화된 방법을 탐구했지만, 변형의 미묘한 특성으로 인해 이러한 노력은 어려움에 직면했다. 이 사례는 자동화된 시스템이 악의적인 조작과 무해한 편집을 구별하는 데 종종 어려움을 겪기 때문에 기술적 해결책 외에 인간의 감독이 필요함을 강조했다.
더 넓은 맥락과 지속적 관련성
사건 이후 몇 년 동안 조작된 미디어의 환경은 크게 진화했다. Generative AI과 Large language model 기술의 발전으로 사실적인 합성 콘텐츠를 만드는 것이 더 쉬워졌으며, 진위성과 신뢰에 대한 새로운 우려가 제기되었다. 그러나 펠로시 영상은 모든 허위 정보가 최첨단 기술을 요구하는 것은 아니라는 점을 상기시킨다. 2024년 현재, 이 영상은 종종 맥락 없이 주기적으로 소셜 미디어에 다시 등장하며, 이러한 콘텐츠의 지속성을 보여준다.
이 사건은 또한 미디어 조작에 대한 대중의 인식에 기여했다. 사건 이후 실시된 설문 조사에서는 미국인들 사이에서 변조된 영상이 기만할 가능성에 대한 인식이 높아졌음을 보여주었다. 이러한 인식은 미디어 리터러시 교육과 플랫폼 책임에 대한 요구 증가와 함께 이루어졌다. 기술적으로 단순했던 펠로시 영상은 사회가 디지털 허위 정보의 도전을 이해하고 대응하는 방식에 지속적인 영향을 미쳤다.