조 바이든의 딥페이크(2020)는 2020년 미국 대통령 선거 운동 기간 동안 표면에 등장한 조작된 비디오를 가리키며, 당시 후보였던 조 바이든을 유권자들을 속이기 위한 방식으로 묘사한 것이다. 온라인에 유포된 이 비디오는 민주당 예비선거 유권자들이 집에 머물며 선거에 참여하지 말도록 촉구하는 바이든의 합성 버전을 보여주었다. 이 사건은 Generative AI와 Artificial intelligence 기술이 민주적 과정을 방해하기 위해 어떻게 무기화될 수 있는지를 보여준 초기의 두드러진 사례로, 선거 정보의 무결성에 관한 상당한 우려를 제기했다.
딥페이크는 Machine learning 기술, 특히 Deep learning 모델을 사용하여 사실적인 얼굴 움직임과 발화를 생성할 수 있는 방식으로 제작되었다. 원본 영상에 접근하고 수동 조작이 필요한 전통적인 비디오 편집과 달리, 딥페이크는 Neural network 구조를 활용하여 일반 시청자들이 실제 녹화본과 구별하기 어려운 콘텐츠를 합성한다. 2020년 바이든 딥페이크는 정치적 대상뿐 아니라 시기적으로도 주목할 만했는데, 이는 미국 선거에서 외국 개입과 허위 정보 캠페인에 대한 민감성이 높아진 시기에 등장했기 때문이다.
유포 경로와 배포
딥페이크의 정확한 기원은 여전히 명확하지 않지만, 2020년 초 소셜 미디어 플랫폼에서 처음 식별되었다. 비디오는 바이든이 자신의 공공적 태도와 일치하지 않는 방식으로 말하는 모습을 보여주었으며, 음성과 얼굴 표정이 조작되어 근처에서 확인하면 미묘하게 부자연스러웠다. 이 영상은 트위터와 페이스북을 포함한 여러 플랫폼에서 공유되었으며, 후보자에 대한 부정적 콘텐츠를 미리 믿는 성향이 있는 사용자들 사이에서 빠르게 확산되었다. 로이터와 AP 통신과 같은 팩트체크 조직과 뉴스 매체는 이 비디오를 조사하고, 립싱크와 음질의 불일치를 지적하며 위조임을 확인했다.
기술적 특징
딥페이크는 Generative AI 모델 유형인 생성적 적대 신경망(GAN)을 사용했는데, 이는 두 개의 경쟁 Neural network 구성 요소 - 생성자는 합성 이미지나 비디오를 만들어내고, 판별자는 실제와 가짜 콘텐츠를 구분하려고 시도한다 - 로 구성된다. 반복적인 훈련을 통해 생성자는 설득력 있는 출력을 생성능력을 향상시킨다. 바이든 사례에서 창작자들은 사전 학습된 모델을 사용하고, 연설과 토론을 포함한 공개적으로 이용 가능한 바이든 영상에 대해 정밀 조정했을 가능성이 있다. 결과적으로 생성된 비디오는 비교적 낮은 화질로 일부 아티팩트를 숨겼지만, 법의학적 분석은 초기 딥페이크 기술에서 흔한 불규칙한 깜빡임 패턴과 부자연스러운 머리 움직임과 같은 미묘한 결함을 드러냈다.
영향과 대응
딥페이크의 유포는 여러 이해관계자들의 즉각적인 대응을 촉발했다. 바이든은 공식 소스의 정보를 검증의 중요성을 강조하며 이 비디오를 무시하도록 유가에 촉구하며 공개적으로 규탄했다. 트위터와 페이스북을 포함한 소셜 미디어 플랫폼은 사용자와 팩터체커에 의해 신고된 후 비디오를 삭제했으며, 조작된 미디어에 대한 정책을 언급했다. 이 사건은 또한 규제 검출 도구의 필요성에 대한 정책 입안자들의 논의를 촉발했다. MIT CSAIL과 stanford-stanford-ai-lab과 같은 기관의 연구자들은 딥페이크 탐지 알고리즘을 개발해 왔으며, 바이든 사건은 이러한 기술들에 대한 실제 테스트 사례로 작용했다. 그러나 탐지는 Generative AI 모델이 계속 개선됨에 따라 어려움이지 않은 과제로 남아 있다.
더 넓은 맥락
2020년 바이든 딥페이크는 대선 기간 동안 AI 생성 허위 정보의 큰 흐름의 일부였다. 유사한 사건은 낸시 펠로시 하원의장 같은 다른 정치 인물의 조작된 비디오를 포함했으며, 그녀의 영상은 술에 취한 듯 보이도록 늘려졌다. 장면들은 민주적 시스템의 합성 미디어의 취약성을 강조했으며, 검출과 공공 인식 캠페인에 대한 증가 투자를 이끌었다. 이 사건은 또한 콘텐츠 인증 이니셔티브와 같은 디지털 미디어에 대한 암호화된 출처를 제공하기 위한 산업 표준 개발에 기여했다. 딥페이크는 선거 결과를 크게 변화시지 않는 것으로 보였지만, Artificial intelligence가 정보에 대한 신뢰를 손상시킬 가능성을 지적했으며, 이는 large-lasting-model과 같은 더 고급 모델의 등장으로 더욱 커된 우려 세다.
이동과 교훈
2020년 바이든 딥페이크는 현재 기술, 정치, 윤리의 교차점에 대한 사례 연구로 연구되고 있다. 이는 설득력 있는 가짜 비디오를 만드는 방법이 더 이상 정교한 국행동 배창자 고유의 영역이 아님을 증명했다. 도구와 튜토리얼이 온라인으로 널리 이용 가능해졌기 때문이다. 이 사건은 또한 Deep learning과 Neural network의 시간적 불일치 분석에 기반한 것과 같은 견고한 검출 메서드에 대한 연구를 가속화했다. 대중에게는, 특히 선거와 같은 고위험 사건에서 미디어 콘텐츠를 비판적으로 평가하는 것을 상기시키는 장례였다. Generative AI가 계속 진화함에 따라, 이 사건으로부터 얻은 교훈은 정보 생태계의 무결성을 보존하기 위한 정책과 기술에 계속해서 영향을 미치다.