Chinas Deep-Synthesis-Verordnung, offiziell die „Bestimmungen zur Verwaltung von Internet-Informationsdiensten mit Deep Synthesis", trat am 10. Januar 2023 in Kraft. Herausgegeben von der Cyberspace Administration of China (CAC) zusammen mit drei weiteren Ministerien, gehören diese Regeln zu den ersten nationalen Rechtsrahmen, die speziell auf Deepfakes und synthetische Medien abzielen. Sie verhängen verbindliche Pflichten für Organisationen und Einzelpersonen, die Deep-Synthesis-Technologie zur Erzeugung oder Veränderung von Inhalten, einschließlich Text, Bildern, Audio und Video, innerhalb der Volksrepublik China nutzen.
Die Verordnung definiert Deep Synthesis als Technologie, die maschinelles Lernen und Deep-Learning-Methoden verwendet, um Text, Bilder, Audio oder Video zu erzeugen oder zu bearbeiten, einschließlich Techniken für Gesichtstausch, Stimmklonen und die Erstellung virtueller Szenen. Die Regeln gelten sowohl für kommerzielle Anbieter als auch für nicht-kommerzielle Nutzer, die solche Werkzeuge einsetzen, und decken Dienste ab, die über das Internet angeboten werden, einschließlich mobiler Apps, Websites und Softwareplattformen. Der erklärte Zweck ist der Schutz der nationalen Sicherheit, des öffentlichen Interesses und der rechtmäßigen Rechte der Bürger sowie die Förderung der gesunden Entwicklung von generativer KI-Technologien.
Geltungsbereich und Schlüsseldefinitionen
Die Verordnung deckt ausdrücklich ein breites Spektrum synthetischer Medien ab. Dazu gehören Deepfake-Videos, realistische Sprachsynthese, Text-zu-Bild-Generierung und KI-generierte virtuelle Moderatoren. Die CAC definiert „Deep-Synthesis-Dienstanbieter" als jede Einrichtung, die diese Technologien der Öffentlichkeit anbietet, entweder als primären Dienst oder als Funktion innerhalb einer größeren Plattform. Nutzer, die solche Dienste zur öffentlichen Verbreitung einsetzen, unterliegen ebenfalls bestimmten Bestimmungen, insbesondere in Bezug auf Kennzeichnung und rechtmäßige Inhalte.
Ein bemerkenswerter Aspekt der Regeln ist ihre extraterritoriale Reichweite. Anbieter, die Dienste für Nutzer in China anbieten, auch wenn sie im Ausland ansässig sind, müssen diese einhalten. Die Verordnung verlangt außerdem, dass Dienstanbieter vor der Einführung neuer Produkte oder Funktionen, die Deep Synthesis verwenden, Sicherheitsbewertungen durchführen und ihre Algorithmen bei der CAC einreichen, ein Prozess, der den bestehenden Vorschriften für Algorithmusempfehlungen ähnelt, die im März 2022 in Kraft traten.
Kennzeichnungs- und Transparenzanforderungen
Eine der zentralen Anforderungen ist die verpflichtende Kennzeichnung. Jegliche Inhalte, die mit Deep Synthesis erzeugt oder verändert wurden und die Öffentlichkeit irreführen könnten, müssen klar als synthetisch gekennzeichnet werden. Die Verordnung unterscheidet zwischen „expliziten Kennzeichnungen" und „impliziten Kennzeichnungen". Explizite Kennzeichnungen sind für Nutzer sichtbar, wie ein Wasserzeichen oder ein Textvermerk. Implizite Kennzeichnungen sind in den Metadaten oder der digitalen Signatur der Datei eingebettet und ermöglichen eine maschinenlesbare Identifizierung.
Für realistische Gesichtstausch- oder Stimmklon-Inhalte muss der Anbieter einen auffälligen Hinweis hinzufügen, dass der Inhalt KI-generiert oder bearbeitet ist. Die Regeln verlangen auch, dass Anbieter sicherstellen, dass die Kennzeichnungen nicht leicht entfernt oder manipuliert werden können. Wenn synthetische Inhalte in der Nachrichtenberichterstattung verwendet werden, muss der Anbieter die synthetische Natur klar angeben, um Verwechslungen mit echtem Filmmaterial zu vermeiden. Diese Kennzeichnungspflicht erstreckt sich auf Inhalte, die von Nutzern hochgeladen werden, und verpflichtet Plattformen, solche Inhalte bei der Veröffentlichung zu erkennen und zu kennzeichnen.
Nutzereinwilligung und Persönlichkeitsrechte
Die Verordnung legt großen Wert auf den Schutz individueller Rechte. Anbieter müssen vor der Verwendung biometrischer Informationen wie Gesichtern oder Stimmen in Deep Synthesis eine ausdrückliche Einwilligung der betroffenen Personen einholen. Diese Einwilligung muss informiert und freiwillig sein, und Nutzer haben das Recht, sie zu widerrufen. Die Regeln verbieten die Nutzung von Deep Synthesis zur Erstellung oder Verbreitung von Inhalten, die den Ruf, die Privatsphäre oder andere rechtmäßige Rechte einer Person verletzen.
Darüber hinaus sind Anbieter verpflichtet, Mechanismen für Nutzer einzurichten, um Verstöße wie nicht einvernehmliche Deepfakes zu melden. Sie müssen auch eine Möglichkeit für betroffene Personen bereitstellen, die Entfernung von Inhalten zu beantragen, die ihr Abbild ohne Erlaubnis verwenden. Die Verordnung verbietet ausdrücklich die Nutzung von Deep Synthesis zur Erstellung von Fake News, verleumderischem Material oder Inhalten, die die soziale Ordnung stören. Dies steht im Einklang mit Chinas breiteren Cybersicherheits- und Datenschutzgesetzen, einschließlich des Personal Information Protection Law (PIPL), das im November 2021 in Kraft trat.
Inhaltsmoderation und Sicherheitspflichten
Dienstanbieter müssen robuste Systeme zur Inhaltsmoderation implementieren. Sie sind verpflichtet, alle synthetischen Inhalte auf illegales oder schädliches Material zu überprüfen, einschließlich Inhalten, die Terrorismus, Gewalt, Pornografie oder die Untergrabung der Staatsmacht fördern. Die Verordnung schreibt vor, dass Anbieter technische Mittel einsetzen, um synthetische Inhalte zu identifizieren und deren Missbrauch zu verhindern. Dies umfasst die Führung von Protokollen über Nutzeraktivitäten und Inhaltserzeugung für mindestens sechs Monate, vorbehaltlich der Datenspeicherungsgesetze.
Anbieter müssen auch sicherstellen, dass ihre Algorithmen illegales oder unethisches Verhalten nicht verstärken. Die Regeln verlangen, dass Deep-Synthesis-Dienste mit Sicherheitsfunktionen ausgestattet sind, wie der Verhinderung der Erzeugung von Inhalten, die Regierungsbeamte oder öffentliche Persönlichkeiten in irreführender Weise nachahmen. In Fällen, in denen synthetische Inhalte die öffentliche Meinung oder die nationale Sicherheit beeinträchtigen könnten, müssen Anbieter mit den Behörden zusammenarbeiten und sofort Maßnahmen ergreifen, um solche Inhalte zu entfernen oder zu blockieren.
Algorithmus-Einreichung und Sicherheitsbewertungen
Ein zentraler Compliance-Mechanismus ist die Pflicht zur Einreichung von Algorithmen bei der CAC. Anbieter müssen detaillierte Informationen über ihre Deep-Synthesis-Algorithmen einreichen, einschließlich Zweck, Datenquellen und potenzieller Risiken. Dieser Einreichungsprozess ähnelt dem für Empfehlungsalgorithmen unter den Vorschriften von 2022. Die CAC führt ein öffentliches Register eingereichter Algorithmen, und die Nichteinreichung kann zu Strafen führen.
Sicherheitsbewertungen sind vor der Einführung neuer Dienste oder größerer Updates erforderlich. Diese Bewertungen untersuchen die potenziellen Risiken für die nationale Sicherheit, die soziale Stabilität und individuelle Rechte. Die Bewertungen müssen von qualifizierten Drittorganisationen oder internen Teams durchgeführt werden, und die Ergebnisse müssen der CAC vorgelegt werden. Die Verordnung verlangt auch, dass Anbieter Notfallpläne für Sicherheitsvorfälle wie groß angelegte Deepfake-Kampagnen einrichten.
Durchsetzung und Strafen
Verstöße gegen die Verordnung können zu Verwaltungsstrafen führen, einschließlich Geldbußen, Aussetzung von Diensten und Entzug von Lizenzen. Die CAC und andere Regulierungsbehörden haben die Befugnis, Inspektionen durchzuführen und Korrekturmaßnahmen zu verlangen. In schweren Fällen kann die strafrechtliche Haftung nach dem chinesischen Strafgesetzbuch gelten, insbesondere für Straftaten im Zusammenhang mit Betrug, Verleumdung oder der Verbreitung falscher Informationen.
Seit Inkrafttreten der Verordnung hat die CAC diese aktiv durchgesetzt. Im Jahr 2023 wurden mehrere Plattformen öffentlich kritisiert, weil sie synthetische Inhalte nicht ausreichend gekennzeichnet hatten. Die CAC hat auch Leitlinien für spezifische Anwendungsfälle herausgegeben, wie KI-generierte virtuelle Moderatoren im Livestreaming, die klar identifiziert werden müssen. Der Durchsetzungsansatz spiegelt einen breiteren Trend in China wider, künstliche Intelligenz durch sektorspezifische Regeln zu regulieren, anstatt durch ein einziges umfassendes Gesetz.
Auswirkungen auf die Industrie und globaler Kontext
Die Verordnung hat erhebliche Auswirkungen auf sowohl inländische als auch internationale Unternehmen. Große chinesische Technologieunternehmen, einschließlich Alibaba Cloud und anderer Cloud-Anbieter, haben Compliance-Funktionen in ihre KI-Dienste integriert, wie automatische Wasserzeichen und Inhaltsfilterung. Internationale Unternehmen, die Deep-Synthesis-Tools für chinesische Nutzer anbieten, haben ebenfalls ihre Praktiken angepasst, oft durch Geo-Blocking oder das Hinzufügen lokaler Compliance-Maßnahmen.
Global war Chinas Ansatz einflussreich. Das KI-Gesetz der Europäischen Union, das im August 2024 in Kraft trat, enthält ähnliche Transparenzanforderungen für Deepfakes, wenn auch mit unterschiedlichen Durchsetzungsmechanismen. Die Vereinigten Staaten haben einen fragmentierteren Ansatz gewählt, mit Gesetzen auf Bundesstaatsebene und föderalen Leitlinien. Chinas Verordnung ist bemerkenswert für ihren umfassenden Umfang und die Integration der Algorithmus-Einreichung, die unter den großen Volkswirtschaften einzigartig ist.
Zukünftige Entwicklungen und Herausforderungen
Stand 2025 hat die CAC signalisiert, dass sie die Verordnung aktualisieren wird, um aufkommende Technologien wie Large-Language-Model-basierte Inhaltserzeugung und Echtzeit-Deepfake-Videos zu adressieren. Die schnelle Entwicklung von generativer KI stellt Herausforderungen für die Durchsetzung dar, da Erkennungsmethoden hinter den Erzeugungsfähigkeiten zurückbleiben. Die Verordnung sieht sich auch Kritik von einigen Wissenschaftlern ausgesetzt, die argumentieren, dass die Kennzeichnungsanforderungen unzureichend sind, um Fehlinformationen zu verhindern, während andere behaupten, dass die Regeln übermäßig restriktiv sind und Innovation behindern.
Trotz dieser Herausforderungen hat die Verordnung eine Grundlinie für die verantwortungsvolle Nutzung von Deep Synthesis in China etabliert. Sie hat die Entwicklung technischer Standards für Wasserzeichen und Inhaltsherkunft vorangetrieben und Forschung zu Erkennungsalgorithmen angeregt. Die langfristige Wirksamkeit der Verordnung wird von fortlaufenden Aktualisierungen und der Fähigkeit der Regulierungsbehörden abhängen, mit dem technologischen Wandel Schritt zu halten.
Vergleichende Analyse mit anderen Rechtsräumen
Im Vergleich zum KI-Gesetz der EU, das Deepfakes als Transparenzrisiko einstuft, ist Chinas Verordnung präskriptiver und verlangt spezifische Kennzeichnungsformate und Algorithmus-Einreichungen. Die EU stützt sich auf allgemeine Transparenzpflichten und Risikomanagement, während China detaillierte technische Compliance vorschreibt. In den Vereinigten Staaten hat das Fehlen eines föderalen Gesetzes zu einem Flickenteppich von Regelungen auf Bundesstaatsebene geführt, wie Kaliforniens Gesetz zu politischen Deepfakes, das 2020 in Kraft trat. Chinas zentralisierter Ansatz ermöglicht eine konsistente Durchsetzung, wirft jedoch Bedenken hinsichtlich Übergriffen und Zensur auf.
Die Verordnung interagiert auch mit Chinas Anforderungen an die Datenlokalisierung, da Anbieter Nutzerdaten innerhalb Chinas speichern müssen. Dies hat Auswirkungen auf internationale Unternehmen, die global tätig sind. Die Anforderung zur Algorithmus-Einreichung wurde mit ähnlichen Maßnahmen in anderen Sektoren verglichen, wie den Regeln von 2021 für Empfehlungsalgorithmen, die zur Kontrolle des Informationsflusses verwendet wurden. Insgesamt stellt Chinas Deep-Synthesis-Verordnung einen wegweisenden Versuch dar, synthetische Medien zu regulieren, wobei sowohl Befürworter als auch Kritiker ihre Umsetzung genau beobachten.