Die Interim-Maßnahmen zur Verwaltung generativer KI-Dienste (chinesisch: 生成式人工智能服务管理暂行办法; Pinyin: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) sind eine Reihe von Regeln, die von China eingeführt wurden, um öffentlich zugängliche generative künstliche Intelligenz im Land zu regulieren. Herausgegeben von der Cyberspace Administration of China zusammen mit sechs weiteren nationalen Regulierungsbehörden, traten die Maßnahmen am 15. August 2023 in Kraft. Sie stellen einen der ersten umfassenden nationalen Rahmenwerke für generative KI dar, mit dem Ziel, Innovation zu fördern und gleichzeitig Risiken wie nationale Sicherheit, soziale Stabilität und individuelle Rechte anzugehen. Die Vorschriften gelten für Dienste, die der inländischen Öffentlichkeit angeboten werden, und befreien interne Unternehmens- und Forschungsnutzungen, wobei sie ein Prinzip der "inklusiven Vorsicht" mit klassifizierter Aufsicht betonen.
Die Maßnahmen wurden gemeinsam von der Cyberspace Administration of China, der Nationalen Entwicklungs- und Reformkommission, dem Bildungsministerium, dem Ministerium für Wissenschaft und Technologie, dem Ministerium für Industrie und Informationstechnologie, dem Ministerium für Öffentliche Sicherheit und der Nationalen Rundfunk- und Fernsehverwaltung herausgegeben. Sie bestehen aus 24 Artikeln, die in fünf Abschnitte gegliedert sind: allgemeine Bestimmungen, Technologieentwicklung und Governance, Dienstspezifikationen, Aufsicht und rechtliche Haftung sowie ergänzende Bestimmungen.
Hintergrund und Zweck
Der Aufstieg von großen Sprachmodellen und generativen KI-Systemen in den frühen 2020er Jahren veranlasste Regierungen weltweit, neue regulatorische Ansätze in Betracht zu ziehen. Chinas Maßnahmen wurden entwickelt, um die Förderung des technologischen Fortschritts mit der Notwendigkeit, die nationale Sicherheit und öffentliche Interessen zu schützen, in Einklang zu bringen. Die erklärten Ziele umfassen die Förderung der gesunden Entwicklung und regulierten Nutzung generativer KI, den Schutz gesellschaftlicher Interessen und die Wahrung der rechtlichen Rechte der Bürger. Die regulatorische Philosophie betont die gleichwertige Betonung von Entwicklung und Sicherheit, die Förderung von Innovation neben der Rechtsstaatlichkeit und die Annahme eines klassifizierten, inklusiven Ansatzes zur Aufsicht.
Geltungsbereich und Ausnahmen
Artikel 2 definiert den Geltungsbereich der Maßnahmen und gilt für generative KI-Dienste, die der Öffentlichkeit innerhalb der Volksrepublik China bereitgestellt werden. Dienste, die intern von Unternehmen, Forschungseinrichtungen und anderen Organisationen genutzt werden und nicht der inländischen Öffentlichkeit dienen, sind ausdrücklich ausgenommen. Diese Ausnahme zielt darauf ab, interne Innovation nicht zu ersticken, während der regulatorische Fokus auf verbraucherorientierte Anwendungen gelegt wird. Die Maßnahmen gelten nicht für Dienste, die im Ausland entwickelt wurden, es sei denn, sie werden der chinesischen Öffentlichkeit angeboten.
Prinzipien und Inhaltsanforderungen
Artikel 3 legt Leitprinzipien fest, einschließlich der gleichzeitigen Verfolgung von Entwicklung und Sicherheit, der Förderung von Innovation und der Einhaltung der Rechtsstaatlichkeit. Artikel 4 auferlegt Inhaltsanforderungen an generative KI-Dienste: Sie müssen relevanten Gesetzen entsprechen und die soziale Moral respektieren, einschließlich der sozialistischen Kernwerte. Anbieter müssen sicherstellen, dass generierte Inhalte nicht den Sturz des sozialistischen Systems fördern, die nationale Sicherheit schädigen, die soziale Stabilität untergraben oder Diskriminierung, Terrorismus, Extremismus, Gewalt, Obszönität oder andere falsche und schädliche Informationen enthalten, die gesetzlich verboten sind. Die Maßnahmen verlangen auch, dass Modelle so entworfen und trainiert werden, dass sie Diskriminierung und algorithmische Verzerrung vermeiden, geistige Eigentumsrechte und Geschäftsethik respektieren und die physische und psychische Gesundheit nicht gefährden. Die Transparenz und Genauigkeit der Dienste müssen durch wirksame Maßnahmen verbessert werden.
Technologieentwicklung und Governance
Artikel 5 und 6 fördern Innovation in generativer KI über Branchen hinweg, unterstützen Zusammenarbeit, Daten- und Anwendungsentwicklung, unabhängige Innovation in Kerntechnologien, Infrastrukturentwicklung und Datenressourcenplattformen. Sie fördern internationale Zusammenarbeit, gemeinsame Nutzung von Rechenressourcen, Ausbau hochwertiger öffentlicher Trainingsdaten und die Einführung sicherer Chips und Ressourcen. Artikel 7 verlangt, dass Anbieter sicherstellen, dass Trainingsdaten von hoher Qualität, genau, vielfältig und rechtmäßig beschafft sind, ohne geistige Eigentumsrechte zu verletzen. Wenn personenbezogene Daten verwendet werden, ist die Zustimmung der Nutzer erforderlich. Artikel 8 verlangt, dass Anbieter klare Datenkennzeichnungsregeln festlegen, einschließlich Qualitätsbewertung, Stichprobenprüfung, Personalschulung und Überwachung der Kennzeichnungsarbeit.
Dienstspezifikationen
Artikel 9 behandelt Anbieter rechtlich als Produzenten von Online-Inhalten und Verarbeiter personenbezogener Daten und verlangt, dass sie Dienstvereinbarungen mit Nutzern abschließen, die Rechte und Pflichten definieren. Artikel 10 befasst sich mit dem Schutz Minderjähriger und verlangt wirksame Maßnahmen, um übermäßige Nutzung zu verhindern, sowie dass Anbieter die angemessene Nutzung klarstellen. Artikel 11 verpflichtet Anbieter, die Privatsphäre der Nutzer zu schützen, die Datenerfassung und -speicherung zu minimieren und die illegale Weitergabe von Nutzerinformationen zu vermeiden. Anbieter müssen Anfragen von Nutzern zur Überprüfung, Kopie, Änderung oder Löschung personenbezogener Daten akzeptieren. Artikel 12 verlangt die Kennzeichnung von synthetisierten Bildern, Videos und anderen generierten Inhalten, um Nutzer zu informieren. Artikel 13 verlangt einen stabilen und kontinuierlichen Dienst für die normale Nutzung. Artikel 14 verpflichtet Anbieter, illegale Inhalte oder Missbrauch umgehend zu behandeln, einschließlich der Einstellung der Generierung, des Neutrainierens von Modellen, der Warnung von Nutzern und der Meldung an Behörden. Artikel 15 verlangt Beschwerde- und Meldemechanismen für öffentliche Beschwerden.
Aufsicht, Inspektion und Haftung
Die Artikel 16 bis 21 skizzieren den Aufsichtsrahmen. Artikel 16 weist Aufsichtsrollen der Cybersicherheits-, Technologie-, Industrie-, Bildungs-, öffentlichen Sicherheits- und anderen relevanten Regierungsbehörden zu. Artikel 17 verlangt Sicherheitsbewertungen für Dienste mit Einfluss auf die öffentliche Meinung sowie Algorithmus-Meldeverfahren. Artikel 18 erlaubt Nutzern, sich bei Behörden über nicht konforme Dienste zu beschweren. Artikel 19 erlaubt Beamten, Anbieter zu inspizieren, die kooperieren und Transparenz bieten müssen. Artikel 20 befasst sich mit ausländischen Diensten, die die Maßnahmen verletzen, und erlaubt der Regierung, Maßnahmen zu ergreifen. Artikel 21 definiert die Behörden, die Verstöße bestrafen dürfen, wobei Straftaten gesetzeskonform untersucht werden.
Schlüsselbegriffe und Inkrafttreten
Artikel 22 definiert Schlüsselbegriffe wie generative KI, Dienstanbieter und Dienstnutzer. Artikel 23 verlangt, dass Anbieter relevante Lizenzen erhalten, wo gesetzlich vorgeschrieben. Artikel 24 legt das Inkrafttretensdatum auf den 15. August 2023 fest. Die Maßnahmen wurden als Modell für andere Rechtsordnungen angesehen, die versuchen, künstliche Intelligenz zu regulieren, indem sie Innovation mit gesellschaftlichem Schutz in Einklang bringen.