China hat einen der umfangreichsten und detailliertesten Regulierungsrahmen für künstliche Intelligenz (KI) der Welt entwickelt. Diese Vorschriften, die von verschiedenen nationalen Stellen wie der Cyberspace Administration of China (CAC), dem Ministerium für Industrie und Informationstechnologie und dem Staatsrat erlassen wurden, zielen darauf ab, die schnelle Einführung von Technologien der künstlichen Intelligenz zu steuern und gleichzeitig Bedenken hinsichtlich nationaler Sicherheit, sozialer Stabilität und öffentlicher Ordnung zu adressieren. Der Rahmen zeichnet sich durch seinen Fokus auf Inhaltskontrolle, algorithmische Transparenz und die rechtliche Haftung von KI-Diensteanbietern aus, was ihn von stärker marktorientierten oder innovationsgetriebenen Ansätzen in anderen Rechtsordnungen unterscheidet.
Die Regulierungslandschaft hat sich als Reaktion auf spezifische technologische Entwicklungen weiterentwickelt, insbesondere auf den Aufstieg von generativen KI-Systemen und Deepfake-Technologien. In den Jahren 2022 und 2023 führte China gezielte Regeln für algorithmische Empfehlungen, Deep Synthesis (Deepfakes) und generative KI-Dienste ein. Diese Maßnahmen sind Teil eines breiteren Bestrebens, KI-Governance in bestehende Cybersicherheits- und Datenschutzgesetze zu integrieren und ein gestuftes System zu schaffen, das je nach Art der KI-Anwendung und ihrem potenziellen Risiko für die Gesellschaft unterschiedliche Anforderungen stellt.
Historischer Kontext und rechtliche Grundlage
Chinas KI-Regulierung baut auf einer Grundlage früherer Gesetze auf, insbesondere dem Cybersicherheitsgesetz von 2017 und dem Datensicherheitsgesetz von 2021. Diese Gesetze legten Grundsätze für die Datenverarbeitung, grenzüberschreitende Datenübertragungen und den Schutz kritischer Informationsinfrastruktur fest. Das Gesetz zum Schutz persönlicher Informationen (PIPL), das im November 2021 in Kraft trat, fügte strenge Anforderungen an Einwilligung, Datenminimierung und individuelle Rechte hinzu, die sich direkt auf KI-Systeme auswirken, die personenbezogene Daten verarbeiten.
Die erste KI-spezifische Regulierungsmaßnahme war die "Verordnung zur Verwaltung algorithmischer Empfehlungen für Internetinformationsdienste", die am 1. März 2022 in Kraft trat. Diese Verordnung zielte auf Algorithmen ab, die für Nachrichtenempfehlungen, Suchergebnisse und Inhaltsfeeds verwendet werden. Sie verlangte von Diensteanbietern, ihre Algorithmen bei der CAC zu registrieren, Sicherheitsbewertungen durchzuführen und sicherzustellen, dass algorithmische Ausgaben nicht gegen sozialistische Kernwerte verstoßen oder falsche Informationen verbreiten. Die Bestimmungen verlangten auch, dass Nutzern die Möglichkeit gegeben wird, personalisierte Empfehlungsfunktionen zu deaktivieren.
Deep-Synthesis-Verordnungen (2022)
Im Dezember 2022 veröffentlichte die CAC die "Bestimmungen zur Verwaltung von Deep Synthesis in Internetinformationsdiensten", die am 10. Januar 2023 in Kraft traten. Diese Regeln befassen sich speziell mit Deepfake-Technologie, die Deep-Learning- und neuronale-Netzwerk-Methoden verwendet, um Bilder, Audio und Video zu erzeugen oder zu verändern. Die Verordnungen verlangen, dass jeglicher KI-generierte oder bearbeitete Inhalt, der Zuschauer in die Irre führen könnte, klar als synthetisch gekennzeichnet wird. Diensteanbieter müssen vor der Verwendung von Deep Synthesis zur Bearbeitung die Einwilligung der Nutzer einholen, und es ist ihnen untersagt, Inhalte zu erstellen, die andere verleumden, Gerüchte verbreiten oder die öffentliche Ordnung verletzen.
Deep-Synthesis-Anbieter müssen außerdem eine Echtnamen-Verifizierung für Nutzer implementieren, Protokolle über Inhaltserzeugungsaktivitäten für mindestens drei Monate aufbewahren und Mechanismen einrichten, um den Missbrauch ihrer Technologie für Betrug oder politische Manipulation zu verhindern. Die Regeln gelten sowohl für inländische Unternehmen als auch für ausländische Firmen, die Dienstleistungen in China anbieten, was eine Compliance-Belastung für internationale KI-Entwickler schafft.
Interim-Maßnahmen für generative KI (2023)
Die bedeutendste Regulierung bis heute sind die "Interim-Maßnahmen zur Verwaltung von Diensten für generative künstliche Intelligenz", die am 15. August 2023 in Kraft traten. Diese Maßnahmen wurden gemeinsam von der CAC, der Nationalen Entwicklungs- und Reformkommission, dem Ministerium für Wissenschaft und Technologie und anderen Behörden erlassen. Sie gelten für Dienste, die generative KI nutzen, um Inhalte für die Öffentlichkeit in China bereitzustellen, einschließlich Chatbots auf Basis großer Sprachmodelle, Bildgeneratoren und anderer Werkzeuge.
Zu den wichtigsten Bestimmungen gehören:
- Inhaltsanforderungen: Generierte Inhalte müssen sozialistischen Kernwerten entsprechen, Anstiftung zum Sturz der Staatsgewalt, Terrorismus, ethnischen Hass oder Pornografie vermeiden. Anbieter müssen sicherstellen, dass Trainingsdaten legal sind und keine geistigen Eigentumsrechte verletzen.
- Algorithmische Registrierung: Anbieter müssen ihre Algorithmen und Trainingsdaten vor der Bereitstellung von Diensten für die Öffentlichkeit bei der CAC einreichen. Dies umfasst die Einreichung von Sicherheitsbewertungen und Details zur Modellarchitektur.
- Kennzeichnung von Nutzern: KI-generierte Inhalte müssen klar als synthetisch gekennzeichnet werden, insbesondere wenn sie mit menschlich erstellten Inhalten verwechselt werden könnten.
- Schutz personenbezogener Daten: Trainingsdaten dürfen keine persönlichen Informationen ohne Einwilligung enthalten, und Anbieter müssen Nutzerdaten gemäß PIPL schützen.
- Verantwortung und Rechenschaftspflicht: Anbieter tragen die rechtliche Verantwortung für den Inhalt, den ihre Modelle generieren, auch wenn dieser nicht explizit vom Nutzer angefordert wurde. Sie müssen Mechanismen implementieren, um schädliche Ausgaben zu filtern und zu korrigieren.
Die Interim-Maßnahmen verlangen außerdem, dass generative KI-Dienste so gestaltet werden, dass die Erzeugung von Inhalten verhindert wird, die die nationale Sicherheit oder die öffentliche Ordnung bedrohen könnten. Dies hat zu erheblicher Selbstzensur bei chinesischen KI-Unternehmen geführt, die häufig menschliche Prüfer und Inhaltsfilter einsetzen, um die Einhaltung zu gewährleisten.
Geltungsbereich und Durchsetzung
Chinas KI-Regulierungen gelten für jede Einheit, die KI-Dienste für Nutzer in China bereitstellt, unabhängig davon, wo das Unternehmen seinen Hauptsitz hat. Diese extraterritoriale Reichweite hat Auswirkungen auf globale KI-Entwickler, die entweder die chinesischen Regeln einhalten oder den Zugang zu ihren Diensten aus China blockieren müssen. Die Durchsetzung erfolgt durch die CAC, die bei Nichteinhaltung Warnungen aussprechen, Geldstrafen verhängen, Dienste aussetzen oder Lizenzen entziehen kann.
Die Strafen variieren je nach Verstoß. Bei geringfügigen Verstößen können die Regulierungsbehörden Korrekturen anordnen und Geldstrafen von bis zu 100.000 Yuan (etwa 14.000 US-Dollar) verhängen. Schwerwiegendere Verstöße, wie solche, die die nationale Sicherheit betreffen, können zu strafrechtlicher Haftung nach bestehenden Gesetzen führen. Die CAC führt auch regelmäßige Audits durch und kann eine Echtzeit-Überwachung von KI-Diensten verlangen.
Auswirkungen auf KI-Entwicklung und Industrie
Die Regulierungen haben die Entwicklung von KI in China geprägt, insbesondere für generative KI. Große chinesische Technologieunternehmen, darunter Alibaba, Baidu und Tencent, haben ihre eigenen großen Sprachmodelle eingeführt, wie Alibabas Tongyi Qianwen und Baidus Ernie Bot. Diese Modelle sind mit integrierter Inhaltsmoderation konzipiert, um die Interim-Maßnahmen einzuhalten. Die Anforderung der algorithmischen Registrierung hat einen bürokratischen Prozess geschaffen, der Produkteinführungen verzögern kann, bietet aber auch ein gewisses Maß an regulatorischer Sicherheit für Unternehmen.
Für internationale Firmen stellen die Regulierungen eine Eintrittsbarriere dar. Unternehmen wie OpenAI und Anthropic bieten ihre Dienste in China nicht an, teilweise aufgrund der Compliance-Belastung und des Risikos rechtlicher Haftung. Einige ausländische Unternehmen haben sich entschieden, Partnerschaften mit chinesischen Firmen einzugehen oder lokalisierte Versionen ihrer Modelle zu entwickeln, um die regulatorischen Anforderungen zu erfüllen.
Der Fokus auf Inhaltskontrolle hat auch die Forschung und Entwicklung beeinflusst. Chinesische KI-Forscher priorisieren oft Sicherheit und die Ausrichtung an Regierungsrichtlinien, was sich von den offeneren Ansätzen in westlichen Institutionen unterscheiden kann. Dies hat zu einer Divergenz bei den Arten von KI-Anwendungen geführt, die in China im Vergleich zu anderen Orten kommerziell tragfähig sind.
Vergleich mit anderen Rechtsordnungen
Chinas Ansatz steht im Kontrast zum KI-Gesetz der Europäischen Union, das risikobasierte Klassifizierung und Grundrechte betont, sowie zu den sektoralen und freiwilligen Richtlinien der USA. Während die EU den Schwerpunkt auf Transparenz und menschliche Aufsicht legt, betont China stärker Staatssicherheit und Inhaltsmoderation. Die USA haben sich weitgehend auf Selbstregulierung der Industrie und Exekutivanordnungen verlassen, ohne ein umfassendes Bundesgesetz zur KI bis 2025.
Chinas Regulierungen sind auch präskriptiver als die vieler anderer Länder. Die Anforderung der algorithmischen Registrierung und Sicherheitsbewertungen ist einzigartig, ebenso wie das explizite Mandat, dass KI-generierte Inhalte mit der Staatsideologie übereinstimmen müssen. Dies hat China zu einem Vorbild für andere autoritäre Regierungen gemacht, die KI kontrollieren wollen, hat aber auch Kritik von Menschenrechtsorganisationen und internationalen Beobachtern hervorgerufen, die argumentieren, dass die Regeln die freie Meinungsäußerung und Innovation unterdrücken.
Zukünftige Richtungen und Herausforderungen
Stand 2025 entwickelt sich Chinas KI-Regulierungsrahmen weiter. Die Interim-Maßnahmen für generative KI sind vorübergehend und sollen durch ein dauerhaftes Gesetz ersetzt werden. Der Staatsrat arbeitet an einem "Gesetz zur künstlichen Intelligenz", das bestehende Regulierungen konsolidieren und aufkommende Fragen wie KI in autonomen Fahrzeugen, im Gesundheitswesen und in militärischen Anwendungen adressieren soll. Entwürfe dieses Gesetzes wurden zur Kommentierung zirkuliert, aber kein endgültiger Text wurde veröffentlicht.
Herausforderungen bleiben bestehen, einschließlich der Schwierigkeit, Inhaltsregeln für Open-Source-Modelle durchzusetzen, und des schnellen Tempos des technologischen Wandels. Der Aufstieg multimodaler KI, die Text, Bild und Video kombiniert, könnte neue Regulierungen erfordern. Darüber hinaus bedeutet die globale Natur der KI-Entwicklung, dass Chinas Regeln mit internationalen Standards kollidieren könnten, was Reibungen für multinationale Unternehmen schafft.
Trotz dieser Herausforderungen wurde Chinas regulatorischer Ansatz von einigen dafür gelobt, klare Richtlinien bereitzustellen, die Unsicherheit für Unternehmen reduzieren. Die Betonung von Sicherheit und Stabilität steht im Einklang mit den breiteren Zielen der Regierung von technologischer Selbstständigkeit und sozialer Kontrolle. Während KI weiter voranschreitet, werden Chinas Regulierungen wahrscheinlich als Referenzpunkt für andere Nationen dienen, die darum ringen, diese mächtige Technologie zu regieren.