DeepNude war eine Softwareanwendung, die im Juni 2019 veröffentlicht wurde und Deep Learning-Techniken, insbesondere eine generative adversarial network (GAN)-Architektur, nutzte, um automatisch Kleidung von Fotografien von Frauen zu entfernen und realistische Nacktbilder zu erzeugen. Die App erlangte Bekanntheit durch ihr Potenzial für nicht einvernehmliche Bildmanipulation, oft als „Deepfakes“ bezeichnet, und wurde von Forschern, Aktivisten und der Öffentlichkeit weithin verurteilt. Ihr Schöpfer, ein Entwickler, der das Pseudonym „Alberto“ verwendete, nahm die Anwendung innerhalb weniger Tage nach ihrer öffentlichen Veröffentlichung offline, aber der Code und ähnliche Werkzeuge kursierten weiterhin im Internet.
Die Anwendung basierte auf einem neural network, das mit einem großen Datensatz von Nackt- und Nicht-Nacktbildern trainiert wurde. Sie verarbeitete Eingabefotos durch eine U-Net-artige Architektur, eine Art convolutional neural network, die häufig für Bildsegmentierung und Generierungsaufgaben verwendet wird. Das System sagte die zugrunde liegende Körperstruktur und Hauttextur voraus und synthetisierte sie, um sie dann auf das Originalbild zu legen, wodurch ein plausibles, aber oft unvollkommenes Ergebnis entstand. DeepNude wurde zunächst als kostenloser Download angeboten, mit einer kostenpflichtigen Version, die Wasserzeichen entfernte und eine höhere Auflösung bot.
Entwicklung und Veröffentlichung
DeepNude wurde von einer einzelnen Person entwickelt, die später als ein 27-jähriger russischer Ingenieur in Estland identifiziert wurde. Der Entwickler behauptete, mehrere Monate damit verbracht zu haben, das Modell mit öffentlich verfügbaren Datensätzen und einer einzigen High-End-Grafikkarte zu trainieren. Die App wurde erstmals Anfang Juni 2019 auf einem privaten Discord-Server geteilt und dann am 19. Juni 2019 über eine Website öffentlich veröffentlicht, die 50 Dollar für die Vollversion verlangte. Innerhalb weniger Tage wurde sie zehntausende Male heruntergeladen, und ihre Existenz wurde von großen Technologienachrichtenportalen berichtet.
Die Veröffentlichung fiel mit einem wachsenden öffentlichen Bewusstsein für Deepfake-Technologie zusammen, die zuvor verwendet worden war, um nicht einvernehmliche pornografische Videos von Prominenten und Privatpersonen zu erstellen. DeepNude war bemerkenswert, weil es solche Manipulationen einem breiteren Publikum zugänglich machte, da es keine technischen Fähigkeiten außer dem Hochladen eines Fotos erforderte. Der Entwickler verteidigte die App zunächst als „unterhaltsames“ Werkzeug, änderte jedoch schnell seine Haltung, nachdem er weit verbreitete Kritik und rechtliche Drohungen erhielt.
Ethische und rechtliche Kontroverse
Die App wurde von MIT CSAIL-Forscher Alexei Efros verurteilt, der sie als „Albtraum“ für Privatsphäre und Einwilligung bezeichnete. Carnegie Mellon University-Professor Hany Farid beschrieb sie als „eine Waffe gegen Frauen“. Die Electronic Frontier Foundation und andere Digitalrechtsgruppen gaben Stellungnahmen ab, die auf das Potenzial für Belästigung, Erpressung und Rufschädigung hinwiesen. Mehrere Länder, darunter das Vereinigte Königreich und Australien, hatten Gesetze, die auf die Erstellung und Verbreitung solcher Bilder angewendet werden konnten, obwohl die Durchsetzung durch die kurze Lebensdauer der App erschwert wurde.
Am 27. Juni 2019 kündigte der Entwickler an, den Dienst einzustellen und Kunden zu erstatten, und nannte „die Wahrscheinlichkeit von Missbrauch“. Er erklärte auch, dass er Drohungen erhalten habe und dass die App „zu weit gegangen“ sei. Der Quellcode wurde jedoch kurz darauf geleakt, was es anderen ermöglichte, ähnliche Werkzeuge nachzubauen und zu verbreiten. Bis 2023 sind mehrere Open-Source-Projekte und kommerzielle Dienste mit ähnlicher Funktionalität aufgetaucht, oft unter anderen Namen, und die zugrunde liegenden Techniken wurden in breitere generative KI-Forschung integriert.
Technische Details
Das Kernmodell von DeepNude war ein GAN, bestehend aus einem Generator und einem Diskriminator. Der Generator wurde trainiert, realistische Nacktbilder aus bekleideten Eingaben zu erzeugen, während der Diskriminator darauf trainiert wurde, zwischen echten und generierten Nacktbildern zu unterscheiden. Der Trainingsdatensatz umfasste Bilder, die von Erwachsenen-Websites und anderen Quellen gesammelt wurden, was zusätzliche Urheberrechts- und Einwilligungsprobleme aufwarf. Das Modell arbeitete mit einer Auflösung von 256×256 Pixeln, was die Qualität der Ausgabe begrenzte, aber schnell genug war, um auf Verbraucherhardware zu laufen.
Die App verwendete ein U-Net als Generator-Backbone, das effektiv räumliche Details bewahrt. Sie verwendete auch eine Technik namens Data Augmentation, um die Generalisierung zu verbessern, einschließlich zufälliger Rotationen, Spiegelungen und Farbanpassungen. Die endgültige Ausgabe wurde nachbearbeitet, um Kanten zu verschmelzen und Artefakte zu reduzieren. Der Entwickler stellte fest, dass das Modell bei Bildern mit komplexen Hintergründen, ungewöhnlichen Posen oder nicht-kaukasischen Hauttönen schlecht abschnitt, was Verzerrungen in den Trainingsdaten widerspiegelte.
Vermächtnis und Auswirkungen
Der DeepNude-Vorfall wurde zu einer zentralen Fallstudie in der Ethik von artificial intelligence und machine learning. Er hob die Doppelnutzung generativer Modelle hervor, die sowohl für kreative Zwecke als auch für Schaden verwendet werden können. Als Reaktion darauf stärkten mehrere Technologieunternehmen und Forschungseinrichtungen, darunter OpenAI und Google DeepMind, ihre Inhaltsmoderationsrichtlinien und schränkten die Veröffentlichung bestimmter Modelle ein. Das Berkeley AI Research-Labor und andere akademische Gruppen veröffentlichten Arbeiten zur Erkennung und Eindämmung von Deepfakes.
Die App beschleunigte auch gesetzgeberische Bemühungen. Im Jahr 2019 verabschiedete der US-Bundesstaat Virginia ein Gesetz, das die Erstellung nicht einvernehmlicher Deepfake-Pornografie unter Strafe stellte, und ähnliche Gesetze wurden in anderen Bundesstaaten und Ländern erlassen. Die Carnegie Mellon University und das Stanford AI Lab haben seitdem Erkennungswerkzeuge entwickelt, die von Social-Media-Plattformen verwendet werden. Bis 2024 bleibt der Begriff „Deepnude“ eine häufige Suchanfrage, und die ursprüngliche Website ist nicht mehr aktiv, aber die zugrunde liegende Technologie entwickelt sich weiter, oft im Kontext von Large Language Models und multimodalen Systemen.