DeepNude는 2019년 6월에 출시된 소프트웨어 애플리케이션으로, 딥러닝 기술, 특히 생성적 적대 신경망(GAN) 구조를 사용하여 여성 사진에서 옷을 자동으로 제거하고 사실적인 누드 이미지를 생성했다. 이 앱은 종종 "딥페이크"라고 불리는 비동의 이미지 조작 가능성으로 악명을 얻었으며, 연구자, 활동가, 대중으로부터 광범위한 비난을 받았다. "Alberto"라는 가명을 사용한 개발자는 공개 출시 며칠 만에 애플리케이션을 오프라인으로 전환했지만, 코드와 유사한 도구는 온라인에서 계속 유포되었다.
이 애플리케이션은 누드 및 비누드 이미지의 대규모 데이터 세트로 훈련된 신경망을 기반으로 구축되었다. 입력 사진을 이미지 분할 및 생성 작업에 일반적으로 사용되는 합성곱 신경망 유형인 U-Net 스타일 구조를 통해 처리했다. 시스템은 기본 신체 구조와 피부 질감을 예측하고 합성한 다음 원본 이미지에 오버레이하여 그럴듯하지만 종종 불완전한 결과를 생성했다. DeepNude는 처음에는 무료 다운로드로 제공되었으며, 유료 버전은 워터마크를 제거하고 더 높은 해상도의 출력을 제공했다.
개발 및 출시
DeepNude는 에스토니아에 거주하는 27세 러시아 엔지니어로 나중에 확인된 단일 개인에 의해 개발되었다. 개발자는 공개적으로 이용 가능한 데이터 세트와 단일 고급 그래픽 카드를 사용하여 모델을 훈련하는 데 몇 달을 보냈다고 주장했다. 이 앱은 2019년 6월 초에 비공개 Discord 서버에서 처음 공유되었으며, 2019년 6월 19일에 전체 버전에 50달러를 청구하는 웹사이트를 통해 공개적으로 출시되었다. 며칠 만에 수만 번 다운로드되었으며, 주요 기술 뉴스 매체에서 그 존재를 보도했다.
이 출시는 이전에 유명인과 일반 개인의 비동의 포르노 비디오를 만드는 데 사용되었던 딥페이크 기술에 대한 대중의 인식이 높아지는 시점과 일치했다. DeepNude는 사진 업로드 외에 기술적 기술이 필요 없어 더 넓은 대중이 이러한 조작에 접근할 수 있게 했다는 점에서 주목할 만했다. 개발자는 처음에 이 앱을 "재미있는" 도구로 옹호했지만, 광범위한 비판과 법적 위협을 받은 후 빠르게 입장을 바꿨다.
윤리적 및 법적 논란
이 앱은 MIT CSAIL 연구원 Alexei Efros에 의해 비판받았으며, 그는 이를 개인정보 보호와 동의에 대한 "악몽"이라고 불렀다. 카네기 멜론 대학교 교수 Hany Farid는 이를 "여성에 대한 무기"라고 묘사했다. 전자 프론티어 재단과 기타 디지털 권리 단체는 괴롭힘, 협박, 평판 손상의 가능성을 강조하는 성명을 발표했다. 영국과 호주를 포함한 여러 국가에는 이러한 이미지의 생성 및 유포에 적용될 수 있는 법률이 있었지만, 앱의 짧은 수명으로 인해 집행은 복잡했다.
2019년 6월 27일, 개발자는 "오용 가능성"을 이유로 서비스를 종료하고 고객에게 환불한다고 발표했다. 그는 또한 위협을 받았으며 앱이 "너무 멀리 갔다"고 밝혔다. 그러나 곧 소스 코드가 유출되어 다른 사람들이 유사한 도구를 재현하고 유포할 수 있게 되었다. 2023년 기준으로 유사한 기능을 제공하는 여러 오픈 소스 프로젝트와 상업 서비스가 다른 이름으로 등장했으며, 기본 기술은 더 넓은 생성적 AI 연구에 통합되었다.
기술적 세부 사항
DeepNude의 핵심 모델은 생성기와 판별기로 구성된 GAN이었다. 생성기는 옷을 입은 입력에서 사실적인 누드 이미지를 생성하도록 훈련되었고, 판별기는 실제 누드와 생성된 누드를 구별하도록 훈련되었다. 훈련 데이터 세트에는 성인 웹사이트 및 기타 출처에서 수집한 이미지가 포함되어 추가적인 저작권 및 동의 문제를 제기했다. 모델은 256×256 픽셀 해상도로 작동하여 출력 품질을 제한했지만 소비자 하드웨어에서 실행할 수 있을 만큼 빨랐다.
이 앱은 공간 세부 사항을 보존하는 데 효과적인 U-Net을 생성기 백본으로 사용했다. 또한 무작위 회전, 뒤집기, 색상 조정을 포함한 데이터 증강이라는 기술을 사용하여 일반화를 개선했다. 최종 출력은 가장자리를 혼합하고 아티팩트를 줄이기 위해 후처리되었다. 개발자는 모델이 복잡한 배경, 비정상적인 포즈 또는 비백인 피부 톤이 있는 이미지에서 성능이 좋지 않다고 언급했으며, 이는 훈련 데이터의 편향을 반영한다.
유산 및 영향
DeepNude 사건은 인공지능 및 머신러닝 윤리의 중추적인 사례 연구가 되었다. 이는 창의적 목적으로 사용될 수 있지만 해를 끼칠 수도 있는 생성 모델의 이중 사용 특성을 강조했다. 이에 대응하여 OpenAI 및 Google DeepMind를 포함한 여러 기술 회사와 연구 기관은 콘텐츠 조정 정책을 강화하고 특정 모델의 출시를 제한했다. 버클리 AI 연구 연구소 및 기타 학술 그룹은 딥페이크 탐지 및 완화에 관한 논문을 발표했다.
이 앱은 또한 입법 노력을 가속화했다. 2019년 미국 버지니아주는 비동의 딥페이크 포르노 제작을 범죄화하는 법률을 통과시켰으며, 다른 주와 국가에서도 유사한 법률이 제정되었다. 카네기 멜론 대학교와 스탠포드 AI 연구소는 이후 소셜 미디어 플랫폼에서 사용되는 탐지 도구를 개발했다. 2024년 기준으로 "deepnude"라는 용어는 여전히 일반적인 검색어이며 원래 웹사이트는 폐쇄되었지만, 기본 기술은 대규모 언어 모델 및 다중 모달 시스템의 맥락에서 계속 진화하고 있다.