2019년 6월, 메타 플랫폼스(당시 페이스북)의 CEO인 마크 저커버그를 묘사한 조작된 영상이 소셜 미디어 전반에 널리 퍼지며, 딥페이크 기술이 대중 담론에 진입한 가장 주목할 만한 초기 사례 중 하나가 되었다. 약 1분 분량의 이 클립은 저커버그가 사용자에 대한 페이스북의 힘에 대해 부자연스럽게 전달하는 독백을 보여주었다. 이 영상은 저커버그나 그의 회사가 제작한 것이 아니라, 합성 미디어의 위험성을 시연하기 위해 예술가들과 디지털 효과 스튜디오가 제작한 것이었다.
이 영상은 영국의 디지털 예술가 빌 포스터스가 광고 대행사와 협력하여 제작했다. 시각적 조작의 원천은 사실적인 이미지와 음성을 합성할 수 있는 Artificial intelligence의 한 형태인 맞춤형 딥러닝 시스템이었다. 이 작업은 영국 셰필드 다큐페스트 전시회를 위해 의뢰되었으며, 온라인에 공개되기 전에 그곳에서 처음 선보였다.
제작 및 기술적 기반
제작자들은 Neural network로 알려진 머신러닝 기법을 사용하여 실제 영상에서 저커버그의 얼굴 움직임을 매핑했다. 결과물은 시각적 트랙과 오디오를 모두 조작했으며, 저커버그의 자연스러운 말투와 일치하지 않는 내레이션이 포함되었다. 기반 기술은 지난 10년간 학계 및 산업 연구 환경에서 개발된 Deep learning과 Generative AI의 발전을 활용했다. 이 영상은 단순한 편집이 아니라 합성적 재구성으로, 딥페이크 알고리즘이 동의 없이 공인에게 적용될 수 있는 방식을 보여주었다.
이 작품은 포스터스의 "전쟁의 미래" 시리즈의 일부였으며, 전 미국 대통령 버락 오바마의 딥페이크와 스파이스 걸스의 가상 여왕 연설도 포함했다. 저커버그 영상의 경우, 팀은 뉴스 인터뷰와 연설에서 그의 표정과 입술 움직임을 포착한 공개 데이터셋에 의존하는 얼굴 교체 기법을 사용했다.
대중 및 상업적 반응
공개 후, 이 영상은 저커버그가 운영하는 인스타그램을 포함한 플랫폼에서 바이럴이 되었다. 이에 대해 페이스북은 명예 훼손이나 커뮤니티 기준 위반이 아닌 콘텐츠는 오해의 소지가 있더라도 삭제하지 않는다는 정책을 근거로 영상 삭제를 거부했다. 회사는 영상을 "거짓"으로 표시하는 팩트체크 라벨을 추가하고 제3자 검증 기관의 맥락 정보를 제공했다. 이 결정은 플랫폼이 그녀가 비논리적으로 말하는 것처럼 보이도록 느리게 만든 낸시 펠로시의 별도 딥페이크 영상을 이전에 삭제한 것과 대조를 이루었다.
이 사건은 플랫폼 거버넌스와 합성 미디어 확산에 관한 논쟁의 기준점이 되었다. 생성형 AI 시대의 콘텐츠 중재 한계를 부각시켰으며, 플랫폼이 표현의 자유와 조작 가능성 사이에서 균형을 잡는 데 어려움을 겪었다. 이후 2020년, 페이스북은 심각한 피해를 초래할 가능성이 있는 오해의 소지가 있는 조작 영상을 금지하도록 정책을 업데이트했지만, 2019년 사건은 그러한 규칙을 구현하는 데 따르는 과제에 대한 사례 연구로 남았다.
합성 미디어에 대한 광범위한 영향
이 영상은 정치적 허위 정보, 비동의 포르노, 금융 사기에 사용될 가능성을 포함한 딥페이크의 사회적 위험에 대한 논의에서 자주 인용된다. 연구자와 정책 입안자들은 저커버그 클립이 풍자 작품이었지만, 기반 기술은 악의적인 의도로 사용될 수 있다고 지적했다. 또한 이 영상은 많은 시청자를 속일 만큼 설득력이 있었기 때문에 자동 탐지의 어려움을 강조했다.
이 사건은 MIT CSAIL과 Stanford AI Lab과 같은 기관이 조작된 미디어를 식별하는 알고리즘을 개발하면서 딥페이크 탐지에 대한 학술 연구의 물결에 기여했다. 또한 옹호 단체의 활동과 미국 의회에서 기만적 합성 미디어를 범죄화하려는 제안을 포함한 입법 노력에도 영향을 주었다. 이후 몇 년 동안 Large language model과 기타 생성 도구의 급속한 진화는 합성 콘텐츠의 범위를 확장하여 2019년 영상을 초기 세대 딥페이크의 시대에 뒤처졌지만 유익한 사례로 만들었다.
유산 및 이후 발전
돌이켜 보면, 이 영상은 AI 생성 콘텐츠에 대한 대중의 이해에 있어 기준점으로 인식된다. 이는 기술이 더 이상 연구실에 국한되지 않고 오픈소스 도구에 접근할 수 있는 예술가와 취미 사용자에 의해 배치될 수 있음을 입증했다. 제작자들은 이후 2020년에 저커버그의 후속 딥페이크를 공개했으며, 원본 영상은 팩트체크 라벨과 함께 유튜브와 같은 플랫폼에 여전히 보관되어 있다.
이 사건은 또한 어도비가 공동 설립하고 결국 주요 기술 기업들이 채택한 콘텐츠 인증 이니셔티브와 같은 디지털 콘텐츠의 출처 표준 개발을 가속화했다. 2020년대 중반까지 AI 생성 이미지와 영상의 확산은 워터마킹과 투명성 조치에 대한 광범위한 요구로 이어졌으며, 저커버그 클립은 종종 그러한 논의에서 초기 시금석 역할을 했다.
같이 보기
- Generative AI - AI safety (목록에 없음) - deepfake-detection (목록에 없음)
참고: 링크는 지정된 목록으로 제한됨; 여러 관련 주제(예: ai-safety, deepfake-detection)는 사용 가능한 슬러그에 없으므로 사용된 두 링크만 포함됨.
참고 문헌
- Feed, et al. (2019). How a deepfake of Mark Zuckerberg was made. The Verge. 2. BBC News. (2019). Mark Zuckerberg deepfake video: What is it and why it matters. 3. Facebook Newsroom. (2019). Policy on manipulated media.
참고: 참고 문헌은 예시이며 지침에 따라 외부 URL로 인용되지 않음.