Les Règlements de recommandation algorithmique de la Chine, officiellement dénommés Dispositions sur la gestion des recommandations algorithmiques des services d'information sur Internet, sont des règles administratives émises par l'Administration de la cybersécurité de la Chine (CAC) qui sont entrées en vigueur le 1er mars 2022. Ces règlements ciblent les fournisseurs de services de recommandation algorithmique, y compris ceux utilisant des techniques de apprentissage automatique et de apprentissage profond, et imposent des obligations liées à la gestion des contenus, aux droits des utilisateurs et à la transparence algorithmique. Ils s'inscrivent dans le cadre plus large des efforts de la Chine pour réguler les applications d'intelligence artificielle et façonner le comportement des plateformes Internet.
Les règlements s'appliquent à toute entité offrant des services de recommandation algorithmique au public en Chine, couvrant des domaines tels que la diffusion de nouvelles, les résultats de recherche, les vidéos courtes, les flux de médias sociaux et les recommandations de commerce électronique. Les fournisseurs doivent enregistrer leurs algorithmes auprès de la CAC, se soumettre à des évaluations de sécurité et veiller à ce que les recommandations ne violent pas les valeurs fondamentales du socialisme ni ne propagent d'informations illégales ou nuisibles. Les règles imposent également que les utilisateurs puissent désactiver les recommandations algorithmiques ou supprimer leurs profils utilisateur, et que les fournisseurs étiquettent les contenus générés par algorithme lorsque cela est applicable.
Contexte et historique
Les règlements ont émergé dans un contexte de préoccupations croissantes concernant l'influence des algorithmes de recommandation sur l'opinion publique, le comportement des utilisateurs et la stabilité sociale. Les autorités chinoises avaient précédemment publié des lignes directrices sur la recommandation algorithmique en 2020 et 2021, mais les dispositions de 2022 ont codifié ces éléments dans un cadre réglementaire formel. Les règles s'alignent sur la loi chinoise sur la cybersécurité, la loi sur la sécurité des données et la loi sur la protection des informations personnelles, créant ainsi un environnement juridique complet pour les plateformes numériques.
L'approche de la Chine contraste avec celle d'autres juridictions, telles que la loi sur les services numériques de l'Union européenne, qui se concentre sur la transparence et la responsabilité, et les États-Unis, qui ont largement recouru à l'autorégulation volontaire de l'industrie. Les règlements chinois se distinguent par leur exigence explicite que les algorithmes adhèrent à des valeurs définies par l'État et par le processus d'enregistrement obligatoire.
Dispositions clés
Enregistrement et dépôt
Les fournisseurs doivent déposer des informations sur leurs systèmes de recommandation algorithmique auprès de la CAC, y compris le type d'algorithme, son objectif et les risques potentiels. Ce dépôt est requis avant le lancement du service ou lors de modifications significatives. La CAC tient un registre public des algorithmes déposés, bien que les détails soient souvent expurgés pour des raisons de sécurité.
Gouvernance des contenus
Les fournisseurs sont responsables de veiller à ce que les contenus recommandés ne contiennent pas d'informations illégales, telles que des appels à la sécession, au renversement du pouvoir de l'État, au terrorisme ou à l'obscénité. Ils doivent également empêcher la propagation de rumeurs et de fausses informations, et prendre des mesures pour identifier et supprimer les contenus qui violent l'ordre public ou la moralité sociale. Les règlements exigent que les fournisseurs établissent des mécanismes de révision des contenus et coopèrent avec les autorités lors des enquêtes.
Droits des utilisateurs
Les utilisateurs ont le droit de savoir comment les algorithmes affectent les contenus qu'ils voient et de contrôler leur expérience. Les fournisseurs doivent offrir un moyen simple aux utilisateurs de désactiver les recommandations personnalisées et doivent permettre aux utilisateurs de supprimer leurs données personnelles utilisées pour le profilage algorithmique. De plus, les fournisseurs ne doivent pas utiliser d'algorithmes pour pratiquer une tarification différenciée basée sur les caractéristiques des utilisateurs (par exemple, la « discrimination par les prix des mégadonnées ») sans divulgation claire.
Transparence algorithmique
Les fournisseurs doivent expliquer, en langage simple, les principes de base et la logique de leurs algorithmes de recommandation. Cela inclut la divulgation des principaux facteurs influençant les recommandations, tels que le comportement de l'utilisateur, ses intérêts et sa localisation. Les règlements exigent également des audits et des évaluations périodiques pour garantir la conformité, et les fournisseurs doivent soumettre des rapports annuels à la CAC.
Règles spéciales pour les domaines sensibles
Pour les algorithmes utilisés dans la diffusion de nouvelles et d'informations, les fournisseurs doivent obtenir une licence de presse et veiller à ce que les recommandations privilégient les sources autoritaires. Pour les algorithmes utilisés dans les médias sociaux, les fournisseurs doivent empêcher la création de « cocons informationnels » qui isolent les utilisateurs de points de vue diversifiés. Pour les algorithmes utilisés dans le commerce électronique, les fournisseurs ne doivent pas utiliser d'algorithmes pour manipuler les prix ou se livrer à une concurrence déloyale.
Application et impact
L'application est assurée par la CAC et les bureaux locaux de l'administration de la cybersécurité. Les sanctions pour violations comprennent des avertissements, des amendes, la suspension des services et la révocation des licences. Dans les cas graves, les fournisseurs peuvent être ordonnés de fermer entièrement leurs systèmes de recommandation. Depuis l'entrée en vigueur des règlements, la CAC a mené plusieurs séries d'inspections et a publiquement nommé et condamné plusieurs entreprises pour non-conformité.
Les règlements ont eu un impact significatif sur les entreprises technologiques nationales et internationales opérant en Chine. Les grandes plateformes telles que Alibaba Cloud, Alibaba DAMO Academy et d'autres ont dû ajuster leurs algorithmes et leurs interfaces utilisateur pour se conformer. Certaines entreprises ont introduit des boutons « je n'aime pas » et des options « pas intéressé », tandis que d'autres ont ajouté des explications sur les raisons pour lesquelles certains contenus sont recommandés.
Relations avec d'autres règlements
Les Règlements sur la recommandation algorithmique font partie d'un cadre réglementaire plus large pour les algorithmes et l'IA en Chine. En 2023, la Chine a publié les Mesures provisoires pour la gestion des services d'intelligence artificielle générative, qui s'appliquent aux systèmes de IA générative comme les modèles de langage de grande taille. Les règlements de 2022 complètent ces mesures en se concentrant sur les systèmes de recommandation, tandis que les règles de 2023 traitent de la génération de contenus. Ensemble, ils créent une approche en couches pour la gouvernance de l'IA.
Influence mondiale et comparaisons
Les règlements chinois ont influencé les discussions politiques dans d'autres pays. Par exemple, la loi sur l'IA de l'UE, proposée en 2021 et adoptée en 2024, comprend des dispositions sur la transparence et la gestion des risques pour les systèmes d'IA, bien qu'elle n'impose pas d'enregistrement ni d'alignement sur des valeurs. Le modèle chinois a été étudié par les régulateurs en Asie du Sud-Est et au Moyen-Orient, qui le considèrent comme un modèle pour contrôler l'influence algorithmique.
Critiques et défis
Les critiques soutiennent que les règlements sont trop larges et donnent au gouvernement un contrôle excessif sur la parole en ligne. Certains observateurs de l'industrie notent que le processus d'enregistrement est opaque et que l'exigence d'alignement sur les « valeurs fondamentales du socialisme » est vague, conduisant à une autocensure par les plateformes. D'autres soulignent que les règlements pourraient étouffer l'innovation en imposant des coûts de conformité aux petites entreprises.
Malgré ces critiques, les règlements ont été salués par certains pour promouvoir l'autonomie des utilisateurs et traiter des problèmes tels que le biais algorithmique et les bulles de filtres. L'exigence d'offrir des options non personnalisées a été considérée comme une étape positive pour l'autonomie des utilisateurs.
Développements futurs
En 2025, la CAC a signalé qu'elle mettrait à jour les règlements pour répondre aux nouveaux défis posés par l'IA générative et les deepfakes. Les amendements proposés exigeraient que les fournisseurs étiquettent plus visiblement les contenus générés par IA et mettent en place des garde-fous plus solides contre les abus. L'évolution de ces règles continuera probablement de façonner la conversation mondiale sur la régulation de l'IA.
Conclusion
Les Règlements de recommandation algorithmique de la Chine représentent une tentative pionnière de gouverner le monde opaque des recommandations algorithmiques. En imposant des exigences d'enregistrement, de transparence et de contrôle des utilisateurs, les règles visent à équilibrer l'innovation et la stabilité sociale. Bien que la mise en œuvre ait été difficile, les règlements ont établi un précédent pour d'autres nations confrontées à l'impact sociétal de la distribution de contenus pilotée par l'IA.