2017년, 'deepfakes'라는 별명을 사용한 레딧 사용자가 기계 학습 기술을 이용해 한 사람의 얼굴을 다른 사람의 얼굴에 비디오에서 겹쳐 입힐 수 있는 얼굴 교체 도구를 게시했다. 이 도구는 딥러닝과 같은 인공 신경망 방법에 의존했으며, 합성 미디어의 공개적 이용 가능성에 전환점을 마련했다. 이는 현실적이지만 조작된 비디오, 종종 유명인을 타협적이거나 허구적인 시나리오로 묘사하는 콘텐츠의 제작을 가능하게 했고, '딥러닝'과 '가짜'의 합성어인 '딥페이크'라는 용어를 탄생시켰다.
이 도구의 등장은 연구자, 언론인, 정책 입안자들의 즉각적인 주목을 받았다. 이는 생성형 인공지능이 비전문가에 의해 시각 콘텐츠를 조작하는 데 사용될 수 있음을 보여주었으며, 비디오 증거의 신뢰성과 허위 정보, 괴롭힘, 사기와 같은 영역에서의 오용 가능성에 대한 의문을 제기했다. 이 사건은 현대 딥페이크 현상의 촉매제로 널리 인식되며, 이후 창의적 및 악의적 응용을 모두 포함하는 더 넓은 합성 미디어 분야로 진화했다.
기술적 기반
2017년 도구는 딥러닝 아키텍처, 특히 변분 오토인코더와 생성적 적대 신경망(GAN)에 기반을 두었다. 이러한 기술은 시스템이 이미지 데이터 세트에서 대상 인물의 얼굴 특징을 학습하고, 그 특징을 비디오에서 다른 사람의 얼굴에 매핑할 수 있게 했다. 2010년대 중반에 개발된 GAN의 사용은 콘텐츠를 생성하는 생성기와 그 진위를 평가하는 판별기라는 두 경쟁 네트워크를 서로 대립시켜 매우 현실적인 이미지를 생성할 수 있게 한 핵심 발전이었다.
이전에는 얼굴 재애니메이션과 조작에 상당한 수동 작업이나 전문 장비가 필요했다. 1997년 'Video Rewrite'와 2016년 'Face2Face'와 같은 학술 프로젝트는 자동 얼굴 조작의 가능성을 입증했지만, 대중에게 널리 접근 가능하지는 않았다. 2017년 레딧 도구는 이러한 방법을 사용자 친화적인 애플리케이션으로 단순화하여 기술적 장벽을 낮추었고, 컴퓨터와 충분한 훈련 데이터만 있으면 누구나 설득력 있는 가짜 비디오를 만들 수 있게 했다.
대중 및 학계의 반응
이 도구의 출시는 딥페이크 생성과 탐지 모두에 대한 일련의 학술 연구를 촉발했다. 컴퓨터 비전 연구자들은 종종 실제 및 가짜 비디오의 대규모 데이터 세트로 훈련된 기계 학습 분류기를 사용하여 조작된 미디어를 식별하는 방법을 개발하기 시작했다. 동시에 사회 과학자와 인문학 학자들은 이 기술의 문화적, 윤리적, 정치적 함의를 조사했다. 연구들은 딥페이크가 허위 정보를 퍼뜨리거나, 선거에 간섭하거나, 비동의 친밀 이미지를 만드는 데 사용될 수 있는 방법을 탐구했으며, 소셜 미디어 플랫폼에서 그러한 콘텐츠에 대한 참여를 유도하는 요인을 조사했다.
연구자들은 또한 '딥페이크'라는 용어가 영어에서 부정적인 의미를 지니며 속임수와 피해에 초점을 맞춘다는 점을 지적했다. 대조적으로, 중국어 용어 '환롄'(얼굴 바꾸기)은 이 기술을 더 중립적으로 구성하여 다른 규제 및 사회적 대응을 이끌어 냈다. 이러한 문화적 차이는 합성 미디어에 대한 인식이 언어와 맥락에 의해 어떻게 형성되는지를 강조했다.
산업 및 규제 발전
2017년 이후 몇 년 동안, 정보 기술 산업과 정부는 딥페이크의 유해한 사용을 탐지하고 완화하기 위한 다양한 조치를 제안했다. OpenAI와 다른 AI 연구 기관들은 합성 미디어 생성 및 탐지 도구를 개발했으며, Google Cloud와 Amazon Web Services와 같은 플랫폼은 생성과 분석 모두에 사용될 수 있는 서비스를 제공했다. 일부 관할권에서는 비동의 포르노그래피와 선거 간섭과 같은 딥페이크 관련 범죄를 특별히 겨냥한 법률을 도입했지만, 집행은 여전히 어려운 과제로 남아 있었다.
이 기술은 또한 엔터테인먼트, 교육, 접근성 분야에서 합법적인 응용을 찾았다. 영화 제작자들은 딥페이크를 사용하여 배우를 젊게 만들거나 역사적 인물을 재현했으며, 교육자들은 훈련 목적의 현실적인 시뮬레이션을 제작하는 데 이를 사용했다. 그러나 악용 가능성은 워터마킹, 인증 표준, 공공 인식 캠페인을 포함한 더 강력한 보호 장치에 대한 요구를 계속 촉발했다.
유산 및 지속적 과제
2017년 딥페이크 도구의 등장은 합성 미디어가 대중의 의식에 들어온 순간으로 자주 인용된다. 이는 기계 학습 기술이 제한된 전문 지식을 가진 개인에 의해 활용될 수 있음을 보여주었고, 이후 몇 년 동안 AI 생성 콘텐츠의 급속한 확산을 위한 토대를 마련했다. 2020년대 중반 현재, 딥페이크 기술은 점점 더 정교해지고 접근 가능해졌으며, 생성 모델은 실시간으로 현실적인 오디오, 비디오, 이미지를 생성할 수 있다.
탐지 기술의 발전에도 불구하고, 생성자와 탐지자 간의 군비 경쟁은 계속되고 있다. 연구자들은 딥페이크가 CT 스캔에서 폐암을 주입하거나 제거하는 등 의료 이미지를 조작하는 데 사용될 수 있으며, 방사선 전문의와 AI 기반 진단 도구를 모두 속일 수 있음을 보여주었다. 이는 엔터테인먼트와 정치를 넘어 시각적 증거가 중요한 분야에 영향을 미치는 기술의 더 넓은 함의를 강조한다. 2017년 도구의 유산은 따라서 두 가지 측면을 가진다: 그것은 강력한 창의적 능력을 민주화했지만, 정보와 신뢰를 위해 시각 미디어에 점점 더 의존하는 사회의 취약성을 노출시켰다.