DeepNudeは、2019年6月にリリースされたソフトウェアアプリケーションで、深層学習技術、特に生成敵対ネットワーク（GAN）アーキテクチャを使用して、女性の写真から自動的に衣服を除去し、リアルなヌード画像を作成するものであった。このアプリは、非合意的な画像操作、いわゆる「ディープフェイク」の可能性で悪名を馳せ、研究者、活動家、一般市民から広く非難された。開発者で「Alberto」と名乗る人物は、公開から数日以内にアプリの提供を停止したが、コードと類似ツールはその後もオンライン上で流通し続けた。
このアプリは、多数のヌード画像と非ヌード画像の大規模データセットでトレーニングされたニューラルネットワークに基づいて構築された。入力写真は、画像分割・生成タスクに一般的に用いられる畳み込みニューラルネットワークの一種であるU-Netスタイルのアーキテクチャを通じて処理された。システムは、基礎となる身体構造と皮膚テクスチャを予測・合成し、元画像に重ね合わせることで、もっともらしいがしばしば不完全な結果を生成した。DeepNudeは当初無料で提供され、有料版では透かし除去と高解像度出力が提供された。
Development and Release
DeepNudeは、後にエストニア在住の27歳ロシア人技が開発したと判明した個人によって開発された。開発者は、公開データセットと一台の高性能グラフィックスカードを使用して、モデルのトレーニングに数ヶ月を費やしたと述べた。アプリは2019年6月上旬にプライベートDiscordサーバーで初めて共有され、その後2019年6月19日に、有料版を50ドルで販売するウェブサイトを通じて一般に公開された。数日以内に数万ダウンロードされ、その存在は主要技術ニュースメディアで報じられた。
公開は、著名人や一般個人の非合意映画ポルノ動画を作成するために使用されていたディープフェイク技術への注目が高まる時期と重なった。DeepNudeは、アップロード以外のスキルを必要とせず、このような操作を幅広い層に利用しやすくした点で特筆された。開発者は当初アプリを「楽しい」ツールと擁護したが、批判や法的模とを受けてすぐに態度を転じてした。
Ethical and Legal Controversy
このアプリはMIT CSAIL研究員でAlexei Efrosから「プライバシーと同意にとっての悪夢」と叫ばれ、カーネマ大学の教授Hany Faridは「女性への武器」と述べた。電子フロンティア財団などのデジタル権利団体は、ハラスメント、恐喝、名誉毀損の可能性を強調する声明を発表した。英国やオーストラリアを含むいくつかの国では、そのような画像の作成と配布に適用可能な法律が存在したが、アプリの短い存命のため執行は困難であった。
2019年6月27日、開発者は「乱用の確率」を理由にサービスの停止と顧客への返金を申請した。また、脅迫を受けたことや「アプリが行き過ぎた」と述べた。しかし、ソースコードはその後まもなくリークされ、他の人が同様のツールを再作成・配布できるようになった。2023年現在、同様の機能を提供するオープンソースプロジェクトや商用サービスが複数登場しており、その多くは別名であるが、基盤技術は広範な生成AI研究にも組み込まれている。
---
Technical Details
DeepNudeのコアモデルはGANであり、ジェネレーターとディスクリミネーターで構成されていた。ジェネレーターは着衣画像からリアルなヌード画像を生成するように、ディスクリミネーターは生成物と実際のヌード画像を区別するようにトレーニングされた。トレーニングデータセットにはアダルトサイトや他のソースからのスクレイピングされた画像が含まれ、それにより著作権や同意の問題が上昇した。モデルは256×256ピクセルの解像度で作動し、出力の品質は制約されたが、コンシューマーハードウェアで実行するには十分に高速だった。
このアプリはジェネレータのバックボーンとしてU-Netを採用しており、空間的なディテールを保存するのに有効である。また、無作為なローテクロップ、フリップ、カラー調整を含むデータ増強を施して汎化能力を向上させた。最終出力は、エッジのブレンディングやアーティファクトを削減するためにポスト処理された。開発者は、モデルが複雑な背景や異常なポーズ、非白人系の肌色の画像では性能が低いことを指摘し、トレーニングデータの偏りを反映していた。
---
Legacy and Impact
The DeepNude incidentは、人工知能と機械学習が論じる上で重要なケーススタディになった。生成モデルが持つ二重利用の性質、つまり創造目的にも害悪にも利用可能な側面を明らかにできた。それとして、OpenAIやGoogle DeepMind を含む複数のテクノロジー企業や研究機関は、コンテンツ管理方針に制約を設けたモデルのリリースを制限した。Berkeley AI Researchなどの学術グループはディープフェイクの検出と軽減に関する研究を発表した。
また、このアプリは立法努力も加速した。2019年、米国バージニア州は非同意のディープフェイクポルノの作成を犯罪化法を成立させ、他の州や国でも同様の法律が制定された。カーネル大学とStanford AI Labは、ソーシャルメディアプラットフォームで使用される検出ツールを開発してきた。2024年時点では、「deepnude」という語は依然として一般的な検索クエリであり、元のウェブサイトは廃止されたが、基盤技術は、特に大規模言語モデルとマルチモーダルシステムの文脈で進化し続けている。
---