Die Interim Measures for the Management of Generative AI Services (chinesisch: 生成式人工智能服务管理暂行办法; Pinyin: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) sind eine Reihe von Vorschriften, die von China zur Regulierung öffentlich zugänglicher generativer künstlicher Intelligenz-Dienste eingeführt wurden. Sie wurden von der Cyberspace Administration of China und sechs weiteren nationalen Regulierungsbehörden erlassen und traten am 15. August 2023 in Kraft. Sie stellen einen der ersten umfassenden nationalen Rahmen für generative KI dar und zielen darauf ab, technologische Entwicklung mit nationaler Sicherheit und sozialer Stabilität in Einklang zu bringen.
Die Maßnahmen gelten für Dienste, die der Öffentlichkeit innerhalb der Volksrepublik China zur Verfügung gestellt werden, und nehmen die interne Nutzung durch Unternehmen und Forschungseinrichtungen aus. Sie legen Anforderungen an Datenqualität, Inhaltskennzeichnung, den Schutz der Privatsphäre der Nutzer und die Aufsicht fest, während sie gleichzeitig Innovation und internationale Zusammenarbeit fördern. Der Rahmen spiegelt Chinas Ansatz der „inklusiven Umsicht" wider - die Förderung von Wachstum bei gleichzeitiger Auferlegung klarer Compliance-Verpflichtungen.
Hintergrund und Erlass
Die rasante Entwicklung von großen Sprachmodellen und generativen KI-Systemen in den Jahren 2022 und 2023 führte weltweit zu regulatorischen Reaktionen. Die Cyberspace Administration of China (CAC) leitete die Ausarbeitung und arbeitete mit der Nationalen Kommission für Entwicklung und Reform, dem Bildungsministerium, dem Ministerium für Wissenschaft und Technologie, dem Ministerium für Industrie und Informationstechnologie, dem Innenministerium und der Nationalen Rundfunk- und Fernsehverwaltung zusammen. Die gemeinsame Veröffentlichung durch mehrere Behörden signalisierte einen koordinierten Ansatz in den Bereichen Technologie, Bildung und Sicherheit.
Die Maßnahmen wurden im Juli 2023 veröffentlicht und traten nach einer Phase der öffentlichen Konsultation am 15. August 2023 in Kraft. Sie bauen auf früheren Vorschriften für Algorithmen und Deepfakes auf und erweitern die Aufsicht speziell auf generative KI. Der Zeitpunkt fiel mit der globalen Einführung mehrerer kommerzieller generativer KI-Produkte zusammen, was China zu einer der ersten großen Volkswirtschaften machte, die verbindliche Regeln erließ.
Allgemeine Bestimmungen
Artikel 1 legt den Zweck der Maßnahmen fest: die Förderung einer gesunden Entwicklung und regulierten Nutzung generativer KI bei gleichzeitiger Wahrung der nationalen Sicherheit, der öffentlichen Interessen und der gesetzlichen Rechte der Bürger. Artikel 2 definiert den Geltungsbereich, der auf öffentlich zugängliche Dienste in China angewendet wird, aber interne Dienste von Organisationen ausnimmt, die nicht der inländischen Öffentlichkeit dienen. Diese Ausnahme erlaubt es Unternehmen, KI intern ohne dieselbe Compliance-Last zu nutzen.
Artikel 3 legt Leitprinzipien fest: gleiche Betonung von Entwicklung und Sicherheit, Förderung von Innovation neben der Rechtsstaatlichkeit und Annahme einer „inklusiven Umsicht" mit klassifizierter Aufsicht. Dies spiegelt eine pragmatische Haltung wider, die übermäßig restriktive Regeln vermeidet, die Innovation ersticken könnten. Artikel 4 verlangt, dass Dienste Gesetze und soziale Moral einhalten und sich insbesondere an den sozialistischen Kernwerten orientieren. Er verbietet Inhalte, die den Sturz des sozialistischen Systems fördern, die nationale Sicherheit schädigen oder die Stabilität untergraben, sowie Diskriminierung, Terrorismus, Extremismus, Gewalt, Obszönität und Falschinformationen. Modelle müssen so gestaltet sein, dass sie algorithmische Verzerrungen vermeiden, geistiges Eigentum respektieren und die physische und psychische Gesundheit der Nutzer schützen.
Technologieentwicklung und Governance
Die Artikel 5 und 6 fördern Innovation in allen Branchen und unterstützen die Zusammenarbeit bei KI-Forschung, Daten und Anwendungen. Sie fördern unabhängige Innovation bei Kerntechnologien, Infrastruktur und Datenressourcenplattformen und ermutigen zu internationaler Zusammenarbeit und gemeinsamer Nutzung von Rechenressourcen. Die Maßnahmen fordern auch den Ausbau hochwertiger öffentlicher Trainingsdaten und die Einführung sicherer Chips - eine Anspielung auf Bedenken hinsichtlich der Sicherheit der Lieferkette.
Artikel 7 verpflichtet Anbieter, sicherzustellen, dass Trainingsdaten von hoher Qualität, genau, vielfältig und rechtmäßig beschafft sind, ohne geistige Eigentumsrechte zu verletzen. Wenn personenbezogene Daten verwendet werden, ist eine ausdrückliche Zustimmung des Nutzers erforderlich. Diese Bestimmung befasst sich mit Problemen wie Urheberrechtsverletzungen und Datenschutzverstößen beim KI-Training. Artikel 8 verlangt von Anbietern, klare Regeln für die Datenkennzeichnung festzulegen, einschließlich Qualitätsbewertung, Stichprobenprüfung und Personalschulung, um die Zuverlässigkeit zu gewährleisten.
Dienstspezifikationen
Artikel 9 bezeichnet Anbieter rechtlich als Produzenten von Online-Inhalten und Verarbeiter personenbezogener Daten und verlangt, dass sie Servicevereinbarungen mit Nutzern abschließen. Dies klärt rechtliche Verantwortlichkeiten. Artikel 10 befasst sich mit Minderjährigen und verlangt wirksame Maßnahmen, um übermäßige Nutzung zu verhindern, sowie dass Anbieter die angemessene Nutzung erläutern. Artikel 11 verpflichtet Anbieter, die Privatsphäre der Nutzer zu schützen, die Datenerhebung und -speicherung zu minimieren und es Nutzern zu ermöglichen, ihre persönlichen Daten einzusehen, zu kopieren, zu ändern oder zu löschen.
Artikel 12 verlangt die Kennzeichnung von synthetisierten Bildern, Videos und anderen generierten Inhalten, eine wichtige Transparenzmaßnahme zur Verhinderung von Täuschung. Artikel 13 verlangt stabile und kontinuierliche Dienste für die normale Nutzung. Artikel 14 verpflichtet Anbieter, illegale Inhalte oder Missbrauch umgehend zu behandeln, einschließlich der Einstellung der Generierung, des Neutrainierens von Modellen, der Warnung von Nutzern und der Meldung an Behörden. Artikel 15 verlangt Beschwerde- und Meldeverfahren für öffentliche Anliegen mit zeitnaher Bearbeitung und Rückmeldung.
Aufsicht und rechtliche Haftung
Die Artikel 16 bis 21 skizzieren Aufsicht und Durchsetzung. Artikel 16 weist den Regulierungsrollen den Cybersicherheits-, Technologie-, Industrie-, Bildungs-, öffentlichen Sicherheits- und anderen Regierungsstellen zu. Artikel 17 verlangt Sicherheitsbewertungen für Dienste mit Einfluss auf die öffentliche Meinung sowie Algorithmus-Meldeverfahren - ähnlich den bestehenden Algorithmus-Vorschriften. Artikel 18 erlaubt es Nutzern, sich bei Behörden über nicht konforme Dienste zu beschweren. Artikel 19 ermöglicht offizielle Inspektionen und verlangt die Zusammenarbeit der Anbieter. Artikel 20 erlaubt es der Regierung, ausländische Dienste zu adressieren, die gegen die Maßnahmen verstoßen, und erweitert die extraterritoriale Reichweite. Artikel 21 definiert Behörden, die Verstöße bestrafen können, wobei Straftaten gesetzlich untersucht werden.
Ergänzende Bestimmungen
Artikel 22 definiert Schlüsselbegriffe: generative KI, Dienstanbieter und Dienstnutzer. Artikel 23 verlangt die Einholung relevanter Lizenzen, wo dies gesetzlich erforderlich ist. Artikel 24 legt das Inkrafttreten am 15. August 2023 fest. Diese Bestimmungen gewährleisten Klarheit und Rechtssicherheit für die Umsetzung.
Auswirkungen und Rezeption
Die Maßnahmen wurden als ausgewogener Ansatz angesehen, der Innovation fördert, während er Compliance-Kosten auferlegt. Sie haben globale Diskussionen über KI-Regulierung beeinflusst, wobei andere Rechtsgebiete ähnliche Rahmen in Betracht ziehen. Einige Experten stellen fest, dass die Anforderungen an Datenqualität und Inhaltskennzeichnung die betriebliche Belastung für Anbieter erhöhen könnten, aber die Ausnahme für die interne Nutzung bietet Flexibilität. Die Betonung der internationalen Zusammenarbeit deutet darauf hin, dass China darauf abzielt, an der globalen KI-Governance teilzunehmen, während es die nationale Kontrolle aufrechterhält.
Stand 2025 bleiben die Maßnahmen in Kraft, mit laufenden Aktualisierungen und damit verbundenen Vorschriften, wie den Interim Measures for the Management of Anthropomorphic AI Interactive Services, die eine sich entwickelnde Politik widerspiegeln. Der Rahmen wurde für seine Klarheit gelobt, aber für mögliche Überschreitungen kritisiert, insbesondere in Bezug auf Inhaltsbeschränkungen. Dennoch stellt er einen bedeutenden Schritt in der globalen Bemühung dar, künstliche Intelligenz zu regulieren.