Chinas Vorschriften zur Algorithmus-Empfehlung, offiziell die Internet-Informationsdienst-Algorithmus-Empfehlungsverwaltungsbestimmungen, sind Verwaltungsregeln, die von der Cyberspace-Administration Chinas (CAC) erlassen wurden und am 1. März 2022 in Kraft traten. Die Vorschriften richten sich an Anbieter von algorithmusbasierten Empfehlungsdiensten, einschließlich solcher, die maschinelles Lernen und tiefes Lernen nutzen, und legen Pflichten in Bezug auf Inhaltsverwaltung, Nutzerrechte und algorithmische Transparenz fest. Sie sind Teil von Chinas breiteren Bemühungen, künstliche Intelligenz-Anwendungen zu regulieren und das Verhalten von Internetplattformen zu formen.
Die Vorschriften gelten für jede Einrichtung, die der Öffentlichkeit in China algorithmische Empfehlungsdienste anbietet, einschließlich Bereichen wie Nachrichten-Push, Suchergebnissen, Kurzvideos, Social-Media-Feeds und E-Commerce-Empfehlungen. Anbieter müssen ihre Algorithmen bei der CAC registrieren, Sicherheitsbewertungen unterziehen und sicherstellen, dass Empfehlungen nicht gegen sozialistische Kernwerte verstoßen oder illegale oder schädliche Informationen verbreiten. Die Regeln schreiben auch vor, dass Nutzern Optionen angeboten werden müssen, algorithmische Empfehlungen zu deaktivieren oder ihre Nutzerprofile zu löschen, und dass Anbieter algorithmisch generierte Inhalte, wo anwendbar, kennzeichnen müssen.
Hintergrund und Kontext
Die Vorschriften entstanden vor dem Hintergrund wachsender Bedenken über den Einfluss von Empfehlungsalgorithmen auf die öffentliche Meinung, das Nutzerverhalten und die soziale Stabilität. Chinesische Behörden hatten zuvor 2020 und 2021 Richtlinien zu algorithmischen Empfehlungen herausgegeben, aber die Bestimmungen von 2022 kodifizierten diese in einen formellen Regulierungsrahmen. Die Regeln stehen im Einklang mit Chinas Cybersicherheitsgesetz, Datensicherheitsgesetz und Gesetz zum Schutz persönlicher Informationen und schaffen eine umfassende rechtliche Umgebung für digitale Plattformen.
Chinas Ansatz unterscheidet sich von anderen Rechtsräumen, wie dem Digital Services Act der Europäischen Union, der sich auf Transparenz und Rechenschaftspflicht konzentriert, und den Vereinigten Staaten, die weitgehend auf freiwillige Branchenselbstregulierung gesetzt haben. Die chinesischen Vorschriften sind bemerkenswert für ihre ausdrückliche Anforderung, dass Algorithmen staatlich definierte Werte einhalten müssen, sowie für den obligatorischen Registrierungsprozess.
Wichtige Bestimmungen
Registrierung und Einreichung
Anbieter müssen Informationen über ihre algorithmischen Empfehlungssysteme bei der CAC einreichen, einschließlich des Typs des Algorithmus, seines Zwecks und potenzieller Risiken. Diese Einreichung ist erforderlich, bevor der Dienst gestartet wird oder wenn wesentliche Änderungen vorgenommen werden. Die CAC führt ein öffentliches Register eingereichter Algorithmen, obwohl Details oft aus Sicherheitsgründen geschwärzt werden.
Inhaltsverwaltung
Anbieter sind dafür verantwortlich, sicherzustellen, dass empfohlene Inhalte keine illegalen Informationen enthalten, wie Aufrufe zur Abspaltung, Untergrabung der Staatsgewalt, Terrorismus oder Obszönität. Sie müssen auch die Verbreitung von Gerüchten und falschen Informationen verhindern und Maßnahmen ergreifen, um Inhalte zu identifizieren und zu entfernen, die die öffentliche Ordnung oder soziale Moral verletzen. Die Vorschriften verlangen, dass Anbieter Inhaltsüberprüfungsmechanismen einrichten und mit Behörden bei Untersuchungen zusammenarbeiten.
Nutzerrechte
Nutzer haben das Recht zu erfahren, wie Algorithmen die Inhalte beeinflussen, die sie sehen, und ihre Erfahrung zu kontrollieren. Anbieter müssen eine einfache Möglichkeit bieten, personalisierte Empfehlungen zu deaktivieren, und müssen es Nutzern ermöglichen, ihre persönlichen Daten, die für algorithmische Profilbildung verwendet werden, zu löschen. Darüber hinaus dürfen Anbieter Algorithmen nicht nutzen, um unterschiedliche Preise basierend auf Nutzermerkmalen festzulegen (z. B. "Big-Data-Preisdifferenzierung"), ohne klare Offenlegung.
Algorithmische Transparenz
Anbieter müssen in einfacher Sprache die grundlegenden Prinzipien und die Logik ihrer Empfehlungsalgorithmen erklären. Dies umfasst die Offenlegung der Hauptfaktoren, die Empfehlungen beeinflussen, wie Nutzerverhalten, Interessen und Standort. Die Vorschriften verlangen auch regelmäßige Audits und Bewertungen, um die Einhaltung sicherzustellen, und Anbieter müssen der CAC Jahresberichte einreichen.
Sonderregeln für sensible Bereiche
Für Algorithmen, die in der Nachrichten- und Informationsverbreitung verwendet werden, müssen Anbieter eine Nachrichtenlizenz erwerben und sicherstellen, dass Empfehlungen autoritative Quellen priorisieren. Für Algorithmen, die in sozialen Medien verwendet werden, müssen Anbieter die Bildung von "Informationskokons" verhindern, die Nutzer von vielfältigen Perspektiven isolieren. Für Algorithmen, die im E-Commerce verwendet werden, dürfen Anbieter keine Algorithmen nutzen, um Preise zu manipulieren oder unlauteren Wettbewerb zu betreiben.
Durchsetzung und Auswirkungen
Die Durchsetzung erfolgt durch die CAC und lokale Cyberspace-Verwaltungsbüros. Strafen für Verstöße umfassen Warnungen, Geldbußen, Aussetzung von Diensten und Entzug von Lizenzen. In schweren Fällen können Anbieter angewiesen werden, ihre Empfehlungssysteme vollständig abzuschalten. Seit die Vorschriften in Kraft traten, hat die CAC mehrere Runden von Inspektionen durchgeführt und mehrere Unternehmen öffentlich benannt und mit Geldstrafen belegt.
Die Vorschriften haben erhebliche Auswirkungen auf sowohl inländische als auch internationale Technologieunternehmen, die in China tätig sind. Große Plattformen wie Alibaba Cloud, Alibaba Damiao Academy und andere mussten ihre Algorithmen und Benutzeroberflächen anpassen, um die Vorschriften einzuhalten. Einige Unternehmen haben "Gefällt mir nicht"-Buttons und "Nicht interessiert"-Optionen eingeführt, während andere Erklärungen hinzugefügt haben, warum bestimmte Inhalte empfohlen werden.
Beziehung zu anderen Vorschriften
Die Algorithmus-Empfehlungsvorschriften sind Teil eines breiteren Regulierungsrahmens für Algorithmen und KI in China. 2023 erließ China die Interim-Maßnahmen zur Verwaltung von Diensten für generative künstliche Intelligenz, die für generative KI-Systeme wie große Sprachmodelle gelten. Die Vorschriften von 2022 ergänzen diese Maßnahmen, indem sie sich auf Empfehlungssysteme konzentrieren, während die Regeln von 2023 die Inhaltsgenerierung adressieren. Zusammen schaffen sie einen mehrschichtigen Ansatz zur KI-Governance.
Globaler Einfluss und Vergleiche
Die chinesischen Vorschriften haben politische Diskussionen in anderen Ländern beeinflusst. Zum Beispiel enthält das EU-KI-Gesetz, das 2021 vorgeschlagen und 2024 angenommen wurde, Bestimmungen zu Transparenz und Risikomanagement für KI-Systeme, obwohl es keine Registrierung oder Wertausrichtung vorschreibt. Das chinesische Modell wurde von Regulierungsbehörden in Südostasien und dem Nahen Osten untersucht, die es als Vorlage für die Kontrolle algorithmischen Einflusses sehen.
Kritik und Herausforderungen
Kritiker argumentieren, dass die Vorschriften zu breit gefasst sind und der Regierung übermäßige Kontrolle über Online-Sprache geben. Einige Branchenbeobachter stellen fest, dass der Registrierungsprozess undurchsichtig ist und dass die Anforderung, sich an "sozialistische Kernwerte" zu halten, vage ist, was zu Selbstzensur durch Plattformen führt. Andere weisen darauf hin, dass die Vorschriften Innovation ersticken könnten, indem sie Compliance-Kosten für kleinere Unternehmen auferlegen.
Trotz dieser Kritik wurden die Vorschriften von einigen dafür gelobt, die Handlungsfähigkeit der Nutzer zu fördern und Probleme wie algorithmische Verzerrung und Filterblasen anzugehen. Die Anforderung, nicht-personalisierte Optionen anzubieten, wurde als positiver Schritt für die Nutzerautonomie gesehen.
Zukünftige Entwicklungen
Stand 2025 hat die CAC signalisiert, dass sie die Vorschriften aktualisieren wird, um neue Herausforderungen durch generative KI und Deepfakes zu adressieren. Vorgeschlagene Änderungen würden verlangen, dass Anbieter KI-generierte Inhalte prominenter kennzeichnen und stärkere Schutzmaßnahmen gegen Missbrauch implementieren. Die Entwicklung dieser Regeln wird wahrscheinlich weiterhin die globale Diskussion über KI-Regulierung prägen.
Fazit
Chinas Algorithmus-Empfehlungsvorschriften stellen einen wegweisenden Versuch dar, die undurchsichtige Welt der algorithmischen Empfehlungen zu regulieren. Durch die Auferlegung von Registrierungs-, Transparenz- und Nutzerkontrollanforderungen zielen die Regeln darauf ab, Innovation mit sozialer Stabilität in Einklang zu bringen. Obwohl die Umsetzung herausfordernd war, haben die Vorschriften einen Präzedenzfall für andere Nationen geschaffen, die mit den gesellschaftlichen Auswirkungen KI-gesteuerter Inhaltsverteilung kämpfen.