La Chine a développé l'un des cadres réglementaires les plus vastes et les plus détaillés au monde pour l'intelligence artificielle (IA). Ces réglementations, émises par divers organismes nationaux, notamment l'Administration du cyberespace de Chine (CAC), le ministère de l'Industrie et des Technologies de l'information et le Conseil des affaires d'État, visent à gérer le déploiement rapide des technologies d'intelligence artificielle tout en répondant aux préoccupations concernant la sécurité nationale, la stabilité sociale et l'ordre public. Le cadre se distingue par son accent sur le contrôle du contenu, la transparence algorithmique et la responsabilité juridique des fournisseurs de services d'IA, ce qui le différencie des approches davantage axées sur le marché ou l'innovation observées dans d'autres juridictions.
Le paysage réglementaire a évolué en réponse à des développements technologiques spécifiques, en particulier l'essor des systèmes de IA générative et des technologies de deepfake. En 2022 et 2023, la Chine a introduit des règles ciblées pour la recommandation algorithmique, la synthèse profonde (deepfakes) et les services d'IA générative. Ces mesures s'inscrivent dans un effort plus large visant à intégrer la gouvernance de l'IA dans les lois existantes sur la cybersécurité et la protection des données, créant ainsi un système à plusieurs niveaux qui applique des exigences différentes selon le type d'application d'IA et son risque potentiel pour la société.
Contexte historique et base juridique
La réglementation chinoise sur l'IA s'appuie sur des lois antérieures, notamment la loi sur la cybersécurité de 2017 et la loi sur la sécurité des données de 2021. Ces lois ont établi des principes pour le traitement des données, les transferts de données transfrontaliers et la protection des infrastructures d'information critiques. La loi sur la protection des informations personnelles (PIPL), en vigueur depuis novembre 2021, a ajouté des exigences strictes en matière de consentement, de minimisation des données et de droits individuels, ce qui affecte directement les systèmes d'IA qui traitent des données personnelles.
La première mesure réglementaire spécifique à l'IA a été les « Dispositions sur la gestion de la recommandation algorithmique des services d'information sur Internet », en vigueur depuis le 1er mars 2022. Cette réglementation ciblait les algorithmes utilisés pour la recommandation de nouvelles, les résultats de recherche et les flux de contenu. Elle exigeait que les fournisseurs de services enregistrent leurs algorithmes auprès de la CAC, effectuent des évaluations de sécurité et veillent à ce que les résultats algorithmiques ne violent pas les valeurs fondamentales du socialisme ni ne propagent de fausses informations. Les dispositions imposaient également que les utilisateurs aient la possibilité de désactiver les fonctions de recommandation personnalisée.
Règlements sur la synthèse profonde (2022)
En décembre 2022, la CAC a publié les « Dispositions sur l'administration de la synthèse profonde dans les services d'information sur Internet », en vigueur depuis le 10 janvier 2023. Ces règles concernent spécifiquement la technologie deepfake, qui utilise des méthodes de apprentissage profond et de réseaux neuronaux pour générer ou modifier des images, de l'audio et de la vidéo. Les réglementations exigent que tout contenu généré ou modifié par l'IA susceptible d'induire les spectateurs en erreur soit clairement étiqueté comme synthétique. Les fournisseurs de services doivent obtenir le consentement de l'utilisateur avant d'utiliser la synthèse profonde pour l'édition, et il leur est interdit de créer du contenu qui diffame autrui, propage des rumeurs ou viole l'ordre public.
Les fournisseurs de synthèse profonde doivent également mettre en œuvre une vérification d'identité réelle pour les utilisateurs, conserver des journaux des activités de génération de contenu pendant au moins trois mois et établir des mécanismes pour empêcher l'utilisation abusive de leur technologie à des fins de fraude ou de manipulation politique. Les règles s'appliquent à la fois aux entreprises nationales et aux entreprises étrangères offrant des services en Chine, créant ainsi une charge de conformité pour les développeurs internationaux d'IA.
Mesures provisoires pour l'IA générative (2023)
La réglementation la plus significative à ce jour est celle des « Mesures provisoires pour la gestion des services d'intelligence artificielle générative », en vigueur depuis le 15 août 2023. Ces mesures ont été émises conjointement par la CAC, la Commission nationale du développement et de la réforme, le ministère des Sciences et des Technologies et d'autres agences. Elles s'appliquent aux services qui utilisent l'IA générative pour fournir du contenu au public en Chine, y compris les chatbots basés sur des grands modèles de langage, les générateurs d'images et d'autres outils.
Les principales dispositions comprennent :
- Exigences de contenu : Le contenu généré doit adhérer aux valeurs fondamentales du socialisme, éviter l'incitation à renverser le pouvoir de l'État, le terrorisme, la haine ethnique ou la pornographie. Les fournisseurs doivent s'assurer que les données d'entraînement sont légales et ne portent pas atteinte aux droits de propriété intellectuelle.
- Dépôt algorithmique : Les fournisseurs doivent déposer leurs algorithmes et leurs données d'entraînement auprès de la CAC avant d'offrir des services au public. Cela comprend la soumission d'évaluations de sécurité et de détails sur l'architecture du modèle.
- Étiquetage des utilisateurs : Le contenu généré par l'IA doit être clairement marqué comme synthétique, surtout lorsqu'il pourrait être confondu avec un contenu créé par des humains.
- Protection des données personnelles : Les données d'entraînement ne doivent pas inclure d'informations personnelles sans consentement, et les fournisseurs doivent protéger les données des utilisateurs conformément à la PIPL.
- Responsabilité et obligation de rendre compte : Les fournisseurs assument la responsabilité juridique du contenu généré par leurs modèles, même s'il n'a pas été explicitement demandé par l'utilisateur. Ils doivent mettre en œuvre des mécanismes pour filtrer et corriger les sorties nuisibles.
Les mesures provisoires exigent également que les services d'IA générative soient conçus pour empêcher la génération de contenu susceptible de menacer la sécurité nationale ou l'ordre public. Cela a conduit à une autocensure significative de la part des entreprises chinoises d'IA, qui emploient souvent des réviseurs humains et des filtres de contenu pour garantir la conformité.
Portée et application
Les réglementations chinoises sur l'IA s'appliquent à toute entité qui fournit des services d'IA aux utilisateurs en Chine, quel que soit le lieu du siège social de l'entreprise. Cette portée extraterritoriale a des implications pour les développeurs mondiaux d'IA, qui doivent soit se conformer aux règles chinoises, soit bloquer l'accès à leurs services depuis la Chine. L'application est assurée par la CAC, qui peut émettre des avertissements, imposer des amendes, suspendre des services ou révoquer des licences en cas de non-conformité.
Les pénalités varient selon la violation. Pour les infractions mineures, les régulateurs peuvent ordonner des corrections et imposer des amendes allant jusqu'à 100 000 yuans (environ 14 000 dollars). Les violations plus graves, telles que celles impliquant la sécurité nationale, peuvent entraîner une responsabilité pénale en vertu des lois existantes. La CAC effectue également des audits réguliers et peut exiger une surveillance en temps réel des services d'IA.
Impact sur le développement et l'industrie de l'IA
Les réglementations ont façonné le développement de l'IA en Chine, en particulier pour l'IA générative. Les grandes entreprises technologiques chinoises, notamment Alibaba, Baidu et Tencent, ont lancé leurs propres grands modèles de langage, tels que Tongyi Qianwen d'Alibaba et Ernie Bot de Baidu. Ces modèles sont conçus avec une modération de contenu intégrée pour se conformer aux mesures provisoires. L'exigence de dépôt algorithmique a créé un processus bureaucratique qui peut retarder les lancements de produits, mais elle offre également un certain degré de certitude réglementaire pour les entreprises.
Pour les entreprises internationales, les réglementations représentent une barrière à l'entrée. Des entreprises comme OpenAI et Anthropic n'offrent pas leurs services en Chine, en partie à cause de la charge de conformité et du risque de responsabilité juridique. Certaines entreprises étrangères ont choisi de s'associer à des entreprises chinoises ou de développer des versions localisées de leurs modèles pour répondre aux exigences réglementaires.
L'accent mis sur le contrôle du contenu a également influencé la recherche et le développement. Les chercheurs chinois en IA privilégient souvent la sécurité et l'alignement avec les directives gouvernementales, ce qui peut différer des approches plus ouvertes des institutions occidentales. Cela a conduit à une divergence dans les types d'applications d'IA commercialement viables en Chine par rapport à ailleurs.
Comparaison avec d'autres juridictions
L'approche de la Chine contraste avec la loi sur l'IA de l'Union européenne, qui met l'accent sur la classification basée sur les risques et les droits fondamentaux, et avec les directives sectorielles et volontaires des États-Unis. Alors que l'UE se concentre sur la transparence et la supervision humaine, la Chine met davantage l'accent sur la sécurité de l'État et la modération du contenu. Les États-Unis se sont largement appuyés sur l'autorégulation de l'industrie et des décrets exécutifs, sans loi fédérale complète sur l'IA en 2025.
Les réglementations chinoises sont également plus prescriptives que celles de nombreux autres pays. L'exigence de dépôt algorithmique et d'évaluations de sécurité est unique, tout comme le mandat explicite selon lequel le contenu généré par l'IA doit s'aligner sur l'idéologie de l'État. Cela a fait de la Chine un modèle pour d'autres gouvernements autoritaires cherchant à contrôler l'IA, mais cela a également suscité des critiques de la part de groupes de défense des droits de l'homme et d'observateurs internationaux qui soutiennent que les règles étouffent la liberté d'expression et l'innovation.
Orientations futures et défis
En 2025, le cadre réglementaire chinois sur l'IA continue d'évoluer. Les mesures provisoires pour l'IA générative sont temporaires et devraient être remplacées par une loi permanente. Le Conseil des affaires d'État travaille sur une « loi sur l'intelligence artificielle » qui consoliderait les réglementations existantes et aborderait des questions émergentes telles que l'IA dans les véhicules autonomes, les soins de santé et les applications militaires. Des versions préliminaires de cette loi ont été diffusées pour commentaires, mais aucun texte final n'a été publié.
Des défis subsistent, notamment la difficulté d'appliquer les règles de contenu aux modèles open-source et le rythme rapide des changements technologiques. L'essor de l'IA multimodale, qui combine texte, image et vidéo, pourrait nécessiter de nouvelles réglementations. De plus, la nature mondiale du développement de l'IA signifie que les règles chinoises pourraient entrer en conflit avec les normes internationales, créant des frictions pour les entreprises multinationales.
Malgré ces défis, l'approche réglementaire de la Chine a été saluée par certains pour fournir des directives claires qui réduisent l'incertitude pour les entreprises. L'accent mis sur la sécurité et la stabilité s'aligne sur les objectifs plus larges du gouvernement en matière d'autosuffisance technologique et de contrôle social. Alors que l'IA continue de progresser, les réglementations chinoises serviront probablement de point de référence pour d'autres nations confrontées à la question de savoir comment gouverner cette technologie puissante.