En 2021, la Chine a introduit un cadre réglementaire fondateur pour l'intelligence artificielle, marquant un changement significatif dans la manière dont la technologie est gouvernée au niveau national. Les mesures, centrées sur les principes d'IA de Pékin et les règles relatives aux algorithmes, ont établi l'approche du pays pour gérer le déploiement rapide des systèmes d'IA, en particulier ceux affectant le comportement public et la diffusion d'informations. Ces réglementations figuraient parmi les premiers efforts nationaux complets pour répondre aux risques sociétaux de l'IA, établissant un précédent pour les débats politiques mondiaux ultérieurs.
Le paquet réglementaire comprenait plusieurs documents clés émis par les autorités chinoises, notamment l'Administration du cyberespace de Chine. Le plus important était les « Dispositions sur la gestion des recommandations algorithmiques dans les services d'information sur Internet », en vigueur depuis le 1er mars 2022, bien que sa rédaction et sa consultation publique aient eu lieu tout au long de 2021. Ces règles ciblaient les technologies de recommandation algorithmique utilisées par les plateformes pour les actualités, la recherche et les médias sociaux, exigeant une transparence sur la manière dont les algorithmes classent et filtrent le contenu. De plus, la « Spécification d'éthique pour l'intelligence artificielle de nouvelle génération » publiée en septembre 2021 a défini six principes éthiques de base : améliorer le bien-être humain, promouvoir l'équité et la justice, protéger la vie privée et la sécurité, garantir la contrôlabilité et la fiabilité, renforcer la responsabilité et la redevabilité, et améliorer la littératie éthique.
Portée réglementaire et exigences
Les règles sur les algorithmes s'appliquaient à tout fournisseur de services Internet utilisant des recommandations algorithmiques, y compris les flux personnalisés, le classement et les notifications push. Les entreprises étaient tenues d'enregistrer leurs algorithmes auprès des autorités, en fournissant des détails sur leur objectif, leurs sources de données et leurs risques potentiels. Elles devaient également offrir aux utilisateurs des options pour désactiver les recommandations personnalisées et fournir des explications sur les décisions algorithmiques, une forme du « droit à l'explication » observé dans d'autres juridictions. Les réglementations interdisaient explicitement les algorithmes susceptibles de manipuler le comportement des utilisateurs d'une manière qui porte atteinte à l'ordre public, propage de fausses informations ou crée une concurrence déloyale.
Principes éthiques et gouvernance
Les principes d'IA de Pékin, articulés dans la spécification éthique, mettaient l'accent sur une approche centrée sur l'humain. Le document soulignait que le développement de l'IA devait prioriser le bien-être public sur les intérêts commerciaux, avec une responsabilité claire pour les résultats indésirables. Il appelait à l'équité algorithmique, exhortant les développeurs à éviter les biais basés sur le genre, l'origine ethnique ou d'autres attributs protégés. Les principes exigeaient également une supervision humaine des applications d'IA à haut risque, en particulier dans des domaines comme la conduite autonome et le diagnostic médical, où les décisions peuvent avoir des conséquences bouleversantes. Ces lignes directrices s'appliquaient à toute la recherche et au déploiement de l'IA en Chine, y compris le travail des institutions académiques et des entreprises privées.
Mise en œuvre et application
Le mécanisme d'application reposait sur une combinaison d'auto-évaluation et d'inspection gouvernementale. Les entreprises devaient effectuer des audits réguliers de leurs algorithmes et soumettre des rapports de conformité. L'Administration du cyberespace pouvait ordonner des modifications aux algorithmes jugés en violation des règles, imposer des amendes ou suspendre les services dans les cas graves. En pratique, cela a conduit à des changements visibles sur les grandes plateformes, telles que Alibaba Cloud et d'autres, qui ont ajusté leurs systèmes de recommandation pour réduire le contenu pouvant être considéré comme politiquement sensible ou socialement déstabilisant. Les réglementations encourageaient également le développement de normes industrielles, avec des organismes techniques comme le Comité technique de normalisation de la sécurité de l'information nationale émettant des orientations complémentaires.
Impact sur le développement de l'IA
Les réglementations de 2021 ont influencé la trajectoire de l'innovation en intelligence artificielle en Chine. En imposant la transparence et la redevabilité, elles ont poussé les entreprises à investir dans l'IA explicable et les outils d'équité, des domaines qui avaient auparavant reçu moins d'attention. Les règles ont également créé une charge de conformité, en particulier pour les petites startups, consolidant potentiellement le pouvoir de marché parmi les grandes entreprises disposant de ressources pour naviguer dans les exigences réglementaires. Sur le plan international, le cadre a été observé de près par d'autres gouvernements, notamment l'Union européenne, qui rédigeait sa propre loi sur l'IA, et les États-Unis, qui ont ensuite émis des décrets sur la sécurité de l'IA. L'approche chinoise, mettant l'accent sur la supervision étatique et la stabilité sociale, contrastait avec des modèles plus axés sur le marché, suscitant des débats sur l'équilibre entre innovation et contrôle.
Signification mondiale et héritage
Les actions de la Chine en 2021 ont représenté un moment charnière dans la gouvernance de l'IA, démontrant que les grandes économies pouvaient imposer des règles contraignantes sur les systèmes algorithmiques. Les principes et règles sont devenus des points de référence pour les discussions politiques ultérieures, y compris celles sur les systèmes de IA générative et de grands modèles de langage apparus plus tard. Bien que les réglementations aient été initialement appliquées aux algorithmes de recommandation, leur logique sous-jacente s'est étendue à d'autres applications de l'IA, établissant un modèle pour de futures lois, telles que les mesures de 2023 sur l'IA générative. L'accent mis sur la supervision humaine et l'examen éthique a influencé les pratiques des entreprises, de nombreuses entreprises technologiques chinoises établissant des comités d'éthique et des évaluations d'impact algorithmique comme procédure standard. En 2025, le cadre reste actif, avec des mises à jour périodiques pour répondre aux nouveaux développements technologiques, soulignant son rôle en tant que pilier durable de la stratégie de gouvernance numérique de la Chine.