Die Interim-Maßnahmen zur Verwaltung generativer KI-Dienste (chinesisch: 生成式人工智能服务管理暂行办法; Pinyin: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) sind eine Reihe von Vorschriften, die von China eingeführt wurden, um öffentlich zugängliche generative künstliche Intelligenz im Land zu regulieren. Diese Maßnahmen traten am 15. August 2023 in Kraft und etablierten einen rechtlichen Rahmen für die Entwicklung, Bereitstellung und Überwachung generativer KI-Systeme, die mit der chinesischen Öffentlichkeit interagieren. Die Vorschriften wurden gemeinsam von der Cyberspace Administration of China und sechs weiteren nationalen Regulierungsbehörden erlassen: der Nationalen Entwicklungs- und Reformkommission, dem Bildungsministerium, dem Ministerium für Wissenschaft und Technologie, dem Ministerium für Industrie und Informationstechnologie, dem Ministerium für öffentliche Sicherheit und der Nationalen Rundfunk- und Fernsehverwaltung.
Die Maßnahmen stellen einen der ersten umfassenden nationalen Regulierungsversuche dar, die speziell auf generative KI-Technologien abzielen, einschließlich großer Sprachmodelle und anderer Formen von generativer KI. Sie zielen darauf ab, die Förderung technologischer Innovation mit dem Schutz der nationalen Sicherheit, der gesellschaftlichen Stabilität und der individuellen Rechte in Einklang zu bringen. Der Rahmen gilt für Dienste, die der inländischen Öffentlichkeit bereitgestellt werden, während interne Unternehmens- und Forschungsnutzungen, die kein öffentliches Publikum erreichen, ausgenommen sind.
Geltungsbereich und allgemeine Grundsätze
Der erste Abschnitt der Maßnahmen legt den grundlegenden Geltungsbereich und die Leitprinzipien fest. Artikel 1 erklärt die Absicht, die gesunde Entwicklung und regulierte Nutzung generativer KI zu fördern und gleichzeitig die nationale Sicherheit, die öffentlichen Interessen der Gesellschaft und die gesetzlichen Rechte von Bürgern und Organisationen zu schützen. Artikel 2 definiert den Geltungsbereich als Anwendung auf öffentlich zugängliche generative KI-Dienste innerhalb der Volksrepublik China und nimmt ausdrücklich interne Dienste von Unternehmen, Forschungseinrichtungen und anderen Organisationen aus, die keine Dienste für die inländische Öffentlichkeit bereitstellen.
Artikel 3 legt zentrale Regulierungsprinzipien fest: gleiche Betonung von Entwicklung und Sicherheit, Förderung von Innovation neben der Rechtsstaatlichkeit sowie einen inklusiven und umsichtigen Ansatz mit klassifizierter Überwachung generativer KI-Dienste. Dieser doppelte Fokus auf Entwicklung und Sicherheit spiegelt einen breiteren politischen Ansatz in Chinas Technologie-Governance wider.
Artikel 4 auferlegt inhaltliche Anforderungen. Generative KI-Dienste müssen einschlägige Gesetze einhalten und die soziale Moral respektieren, im Einklang mit den sozialistischen Kernwerten. Die Maßnahmen verbieten Inhalte, die den Sturz des sozialistischen Systems fördern, die nationale Sicherheit gefährden oder die soziale Stabilität untergraben. Sie verbieten auch Inhalte, die Diskriminierung, Terrorismus, Extremismus, Gewalt, Obszönität oder falsche und schädliche Informationen fördern, die gesetzlich verboten sind. Modelle müssen so gestaltet und trainiert werden, dass sie Diskriminierung oder algorithmische Verzerrung vermeiden, und Dienste müssen geistige Eigentumsrechte und Geschäftsethik respektieren. Anbieter sind verpflichtet, die Rechte anderer zu schützen, Gefahren für die körperliche und geistige Gesundheit zu vermeiden und wirksame Maßnahmen zu ergreifen, um die Transparenz und Genauigkeit ihrer Dienste zu verbessern.
Technologieentwicklung und Governance
Der zweite Abschnitt konzentriert sich auf die Förderung von Innovation und legt gleichzeitig Governance-Anforderungen für die zugrunde liegende Technologie fest. Artikel 5 fördert die innovative Anwendung generativer KI in verschiedenen Branchen, um positive, gesunde und qualitativ hochwertige Inhalte zu schaffen, und unterstützt die Zusammenarbeit bei KI-Innovation, Daten und Anwendungsentwicklung. Artikel 6 fördert unabhängige Innovation in Kern-KI-Technologien, Infrastrukturentwicklung und Datenressourcenplattformen und ermutigt gleichzeitig internationale Zusammenarbeit, kollaboratives Teilen von Rechenressourcen, die Erweiterung hochwertiger öffentlicher Trainingsdatenquellen und die Einführung sicherer Chips und Ressourcen.
Artikel 7 verlangt, dass Anbieter wirksame Maßnahmen ergreifen, um sicherzustellen, dass Trainingsdaten von hoher Qualität, genau, vielfältig und rechtmäßig beschafft sind, ohne geistige Eigentumsrechte zu verletzen. Wenn personenbezogene Daten im Training verwendet werden, müssen Anbieter die Zustimmung der Nutzer einholen. Diese Bestimmung geht direkt auf Bedenken hinsichtlich Datenherkunft und Datenschutz bei der Entwicklung von maschinellem Lernen ein.
Artikel 8 verlangt, dass Anbieter klare, spezifische und operable Datenkennzeichnungsregeln in Übereinstimmung mit den Maßnahmen formulieren. Es schreibt Qualitätsbewertung, Stichprobenprüfung, Personalschulung und Überwachung für Kennzeichnungsarbeiten vor und erkennt die Bedeutung der Datenqualität für das Training zuverlässiger KI-Modelle an.
Dienstspezifikationen
Der dritte Abschnitt beschreibt detailliert die Pflichten der Anbieter bei der Bereitstellung von Diensten für die Öffentlichkeit. Artikel 9 etabliert Anbieter rechtlich als Produzenten von Online-Inhalten und Verarbeiter personenbezogener Daten und verlangt, dass sie Dienstvereinbarungen mit Nutzern abschließen, die Rechte und Pflichten definieren. Artikel 10 verlangt die Ergreifung wirksamer Maßnahmen, um übermäßige Nutzung durch Minderjährige zu verhindern, und fordert Anbieter auf, die angemessene Nutzung klarzustellen und Nutzern zu helfen, generative KI zu verstehen.
Artikel 11 verpflichtet Anbieter, die Privatsphäre der Nutzer zu schützen, die Datenerhebung und -speicherung personenbezogener Informationen zu minimieren und zu vermeiden, Nutzerinformationen illegal an andere weiterzugeben. Anbieter müssen Anfragen von Nutzern zur Überprüfung, Kopie, Änderung oder Löschung ihrer personenbezogenen Daten akzeptieren, im Einklang mit breiteren Datenschutzprinzipien. Artikel 12 verlangt die Kennzeichnung synthetisierter Bilder, Videos und anderer generierter Inhalte und geht auf Bedenken hinsichtlich Deepfakes und Fehlinformationen ein.
Artikel 13 verlangt stabile und kontinuierliche Dienste für die normale Nutzung durch Nutzer. Artikel 14 verpflichtet Anbieter, Situationen, in denen ein Dienst illegale Inhalte generiert oder für illegale Aktivitäten genutzt wird, umgehend zu adressieren, möglicherweise einschließlich der Einstellung der Generierung, des Neutrainierens eines Modells, der Warnung von Nutzern und der Meldung an relevante Behörden. Artikel 15 schreibt Beschwerde- und Meldeverfahren für öffentliche Beschwerden mit zeitnaher Bearbeitung und Rückmeldung vor.
Überwachung und rechtliche Haftung
Der vierte Abschnitt etabliert den Überwachungsrahmen und die rechtlichen Konsequenzen. Artikel 16 weist Cybersicherheits-, Technologie-, Industrie-, Bildungs-, öffentliche Sicherheits- und andere relevante Regierungsstellen Überwachungsrollen zu. Artikel 17 verlangt Sicherheitsbewertungen für Dienste mit Einfluss auf die öffentliche Meinung sowie Algorithmus-Meldeverfahren, wodurch ein dualer Mechanismus aus Vorabprüfung und laufender Registrierung geschaffen wird.
Artikel 18 erlaubt Nutzern, sich bei Behörden über nicht konforme Dienste zu beschweren. Artikel 19 ermöglicht Inspektionen von Anbietern durch Beamte und verlangt Kooperation und Transparenz. Artikel 20 erlaubt der Regierung, ausländische Dienste zu adressieren, die gegen die Maßnahmen verstoßen, und erweitert die regulatorische Reichweite auf internationale Anbieter, die in China tätig sind. Artikel 21 definiert die relevanten Behörden, die Anbieter bestrafen können, die gegen die Bestimmungen verstoßen, wobei Straftaten gesetzlich untersucht werden.
Ergänzende Bestimmungen
Der fünfte Abschnitt enthält Definitionen und Umsetzungsdetails. Artikel 22 definiert Schlüsselbegriffe wie generative KI, Dienstanbieter und Dienstnutzer. Artikel 23 verlangt den Erwerb relevanter Lizenzen zur Bereitstellung von Diensten, wo dies gesetzlich erforderlich ist. Artikel 24 legt fest, dass die Maßnahmen am 15. August 2023 in Kraft treten.
Die Maßnahmen gelten für eine breite Palette generativer KI-Technologien, einschließlich solcher, die auf großen Sprachmodellen und Transformer-Architekturen basieren. Sie betreffen sowohl inländische chinesische Unternehmen als auch ausländische Firmen, die Dienste in China anbieten, und erfordern die Einhaltung von Inhaltsstandards, Daten-Governance und Sicherheitsbewertungsverfahren.
Umsetzung und Auswirkungen
Die Umsetzung dieser Maßnahmen hat erhebliche Auswirkungen auf die KI-Branche. Anbieter müssen vor der Einführung von Diensten, die die öffentliche Meinung beeinflussen könnten, Sicherheitsbewertungen durchführen und ihre Algorithmen bei Behörden melden. Die Anforderung an Datenkennzeichnungsregeln und Qualitätsbewertung beeinflusst, wie Trainingsdatensätze aufgebaut und validiert werden.
Die Maßnahmen adressieren auch die Nutzung von Deep-Learning-Techniken und neuronalen Netzen in generativen Systemen. Obwohl die Vorschriften keine spezifischen technischen Ansätze vorschreiben, verlangen sie, dass Modelle algorithmische Verzerrung und Diskriminierung vermeiden, was die Modellgestaltung und Trainingspraktiken beeinflusst.
Für internationale KI-Unternehmen schaffen die Maßnahmen Compliance-Pflichten bei der Bereitstellung von Diensten für die chinesische Öffentlichkeit. Dies umfasst die Anpassung von Inhaltsmoderationssystemen, die Implementierung von Nutzerzustimmungsmechanismen für die Nutzung personenbezogener Daten und die Zusammenarbeit mit Regierungsinspektionen. Die Bestimmungen zu ausländischen Diensten deuten darauf hin, dass eine extraterritoriale Durchsetzung bei Verstößen möglich ist.
Der regulatorische Ansatz spiegelt einen breiteren Trend in China zu umfassender KI-Governance wider. Die Maßnahmen ergänzen andere Vorschriften zu Cybersicherheit, Datenschutz und Algorithmus-Empfehlungssystemen und schaffen eine mehrschichtige regulatorische Umgebung. Die Betonung sowohl von Entwicklung als auch Sicherheit deutet auf eine fortlaufende Anstrengung hin, technologische Wettbewerbsfähigkeit zu erhalten und gleichzeitig potenzielle Risiken zu managen.
Zum Zeitpunkt des Inkrafttretens stellen die Maßnahmen einen Basisframework dar, der möglicherweise aktualisiert wird, wenn sich generative KI-Technologien weiterentwickeln. Die Anforderung an klassifizierte Überwachung deutet darauf hin, dass verschiedene Arten von Diensten je nach ihrem potenziellen Einfluss auf die öffentliche Meinung und soziale Stabilität unterschiedlichen Prüfungsgraden ausgesetzt sein können. Die Maßnahmen fördern auch internationale Zusammenarbeit bei KI-Innovation, was auf eine Offenheit für globale Kooperation trotz regulatorischer Einschränkungen hindeutet.
Die praktische Umsetzung dieser Maßnahmen entwickelt sich weiter, wobei Behörden Leitlinien herausgeben und Bewertungen durchführen. Die Auswirkungen auf KI-Forschung und -Entwicklung in China umfassen erhöhte Aufmerksamkeit für Datenqualität, Kennzeichnungspraktiken und Inhaltsicherheitsmaßnahmen. Die Maßnahmen haben auch Diskussionen über KI-Governance in anderen Rechtsgebieten beeinflusst und zum globalen Gespräch darüber beigetragen, wie generative KI-Technologien reguliert werden sollten.