2017년 딥페이크 스캔들은 'deepfakes'라는 Reddit 사용자가 제작한 가짜 연예인 성인 동영상을 게시하면서 딥페이크 기술이 공개적으로 등장한 사건을 말한다. 이러한 동영상은 기계 학습 기술을 사용하여 만들어졌으며, 동의 없이 실제 여배우들이 노골적인 장면에 등장하는 것처럼 묘사했다. 이 사건은 '딥 러닝(deep learning)'과 '가짜(fake)'의 합성어인 '딥페이크'라는 용어를 주류 담론으로 끌어올렸으며, 인공지능이 설득력 있는 합성 미디어를 만들 수 있는 가능성을 부각시켰다. 이 스캔들은 프라이버시, 동의, 그리고 AI 생성 콘텐츠의 윤리적 영향에 대한 광범위한 논쟁을 촉발했으며, 기술 기업과 정책 입안자들의 초기 대응을 이끌어냈다.
딥페이크는 AI 기반 도구를 사용하여 이미지, 동영상 또는 오디오를 편집하거나 생성하는 합성 미디어의 한 형태이다. 이는 신경망 아키텍처(변형 오토인코더와 생성적 적대 신경망(GAN) 포함)와 같은 기술을 활용하여 얼굴 표정과 외모를 조작한다. 2017년 사건은 가짜 미디어의 첫 번째 사례는 아니었지만, 접근성과 사실성을 독특하게 결합하여 대중 인식의 전환점이 되었다. 'deepfakes' 사용자는 오픈소스 딥 러닝 도구를 사용하여 동영상에서 얼굴을 교체했으며, 이는 비전문가가 이러한 기술을 쉽게 악용할 수 있음을 보여줬다.
기술적 배경
딥페이크의 기술적 기반은 2010년대 중반 GAN 개발과 함께 마련되었으며, GAN은 경쟁적인 신경망을 훈련시켜 점점 더 사실적인 출력을 생성한다. 오토코크더와 같은 이전 방법은 덜 설득력 있는 결과를 만들었다. 1997년 'Video Rewrite' 프로그램은 오디오와 입 모양을 연결하여 얼굴의 리애니메이션을 자동화한 초기 학술적 이정표였다. 이후 'Synthesizing Obama'(2017) 및 'Face2Face'(2016)와 같은 프로젝트는 각각 포토리얼리즘한 입술 합성과 실시간 얼굴 표정 재연을 개선했다. 이러한 발전은 증가된 계산 기능과 결합하여 Reddit 사용자가 최초로 널리 공유되는 딥페이크 동영상을 만들 수 있게 했다.
대중 및 언론 반응
이 스캔들은 빠르게 국제적인 대중매체의 관심을 받았으며, 언론은 동의 없는 합성 성인 콘텐츠가 제기하는 윤리적이고 법적 도전을 보도했다. Reddit과 Twitter와 같은 플랫폼은 이러한 콘텐츠를 금지하는 조치를 취했으며, 성인 엔터테인먼트 산업과 규제 강화 주도 단체는 더 강력한 규제를 요구했다. 이 사건은 또한 컴퓨터 비전과 이미지 포렌식 분야의 연구자들이 조작된 미디어를 감별하기 위한 도구 개발에 착수하면서 탐지 연구에 대한 학술적 관심을 불러일으키고 있다. '딥페이크'라는 용어 자체가 널리 사용되기 시작했으며, 이 사건은 합성 미디어의 사회적·기술적 측면을 다루는 후속 연구의 촉매으로 자주 인용된다.
규제 및 산업 대응
사태 이후, 정부와 기술 기업은 딥페이크 남용을 완화하는 방안를 모색하기 시작했다. 정보 기술 산업은 탐지 및 워터마킹 기술을 제안했으며, 일부 관할 구역은 동의 없는 친밀한 이미지를 다루는 법안을 도입했다. 이 스캔들은 또한 딥페이크가 가짜 발송이나 사기 전술을 만들 수 있기 때문에 허위 정보 및 선거개입에 대한 논의에 영향을 주었다. 학술 연구는 컴퓨터 과학과 사회 과학 모두로 확장되어 딥페이크 깊이 참여를 촉진하는 요인과 가능한 대처법(대처법)을 고찰했다. 2020년까지 딥페이크에 대한 한 조사에서 이 분야의 빠른 성장과 지속적인 감시 필요성을 지적했다.
문화 및 학술적 영향
2017년 스캔들은 지속적인 문화적 함의를 가지졌다. 영화 연구에서 딥페이크는 인간의 얼굴이 전직적인 모호성의 장소인지에 대한 질문을 제기했으며, 예술가들은 이 기술을 통해 "영화 역사를 놀이적으로 다시쓰기" 또는 Jake Elwes의 'Zizi: Queering the Dataset'과 같은 작품을 통해 성별을 탐구했다. 사회과학자들은 이를 준비와 관련 환경에서 분석했으며, 전통적인 의상크로게트는 중국어 '환얼(huanlian, 얼굴 바꾸기)'과 같은 준비의 차이를 지적해, 이는 'fake'의 부정적 의미가 부족하다. 이러한 시각들은 기술, 사회, 정체성 사이의 복잡한 상호작용을 부각시켰다.
유산
2017년 딥페이크 스캔들은 생성 AI의 역사에서 중추적인 순교로 인정받고 있다. 이는 창의적 표현과 유해성 모두를 생성할 수 있는 AI 기술의 이중 용도의 성지를 입증했다. 이 사건은 탐지 연구과 정책 개발에 대한 투자를 가속화했으며, 이후 엔터테인먼트, 저널리즘, 보안 분야에서 합성 미디어에 관한 논의에 영향을 미쳤다. 원래의 Reddit 계정이 빠르지만, '딥페이크'라는 용어는 지속되고 있고, 기술은 계속 진화하며, 혁신을 윤리적 안전 장치와 균형을 맞추려, 오늘날의 과제를 부각시키고 있다.