Les règlements chinois sur la synthèse profonde, officiellement intitulés « Dispositions sur l'administration des services d'information Internet à synthèse profonde », sont entrés en vigueur le 10 janvier 2023. Publiés par l'Administration du cyberespace de Chine (CAC) avec trois autres ministères, ces règles figurent parmi les premiers cadres juridiques au niveau national ciblant spécifiquement les deepfakes et les médias synthétiques. Ils imposent des obligations contraignantes aux organisations et aux individus qui utilisent la technologie de synthèse profonde pour générer ou modifier du contenu, y compris du texte, des images, de l'audio et de la vidéo, au sein de la République populaire de Chine.
Les règlements définissent la synthèse profonde comme une technologie utilisant des méthodes d'apprentissage automatique et de apprentissage profond pour générer ou éditer du texte, des images, de l'audio ou de la vidéo, y compris des techniques de permutation de visage, de clonage vocal et de création de scènes virtuelles. Les règles s'appliquent à la fois aux fournisseurs commerciaux et aux utilisateurs non commerciaux qui emploient de tels outils, couvrant les services offerts sur Internet, notamment les applications mobiles, les sites Web et les plateformes logicielles. L'objectif déclaré est de sauvegarder la sécurité nationale, les intérêts publics et les droits légitimes des citoyens, tout en promouvant le développement sain des technologies de IA générative.
Portée et définitions clés
Les règlements couvrent explicitement une large gamme de médias synthétiques. Cela inclut les vidéos deepfake, la synthèse vocale réaliste, la génération d'images à partir de texte et les présentateurs virtuels générés par IA. La CAC définit les « fournisseurs de services de synthèse profonde » comme toute entité qui offre ces technologies au public, soit comme service principal, soit comme fonctionnalité au sein d'une plateforme plus vaste. Les utilisateurs qui emploient ces services pour une diffusion publique sont également soumis à certaines dispositions, notamment concernant l'étiquetage et la légalité du contenu.
Un aspect notable des règles est leur portée extraterritoriale. Les fournisseurs qui offrent des services à des utilisateurs en Chine, même s'ils sont basés à l'étranger, sont tenus de s'y conformer. Les règlements exigent également que les fournisseurs de services effectuent des évaluations de sécurité avant de lancer de nouveaux produits ou fonctionnalités utilisant la synthèse profonde, et ils doivent déposer leurs algorithmes auprès de la CAC, un processus similaire aux règlements existants sur la recommandation algorithmique entrés en vigueur en mars 2022.
Exigences d'étiquetage et de transparence
L'une des exigences centrales est l'étiquetage obligatoire. Tout contenu généré ou modifié à l'aide de la synthèse profonde qui pourrait induire le public en erreur doit être clairement marqué comme synthétique. Les règlements distinguent les « étiquettes explicites » des « étiquettes implicites ». Les étiquettes explicites sont visibles pour les utilisateurs, comme un filigrane ou un avis textuel. Les étiquettes implicites sont intégrées dans les métadonnées du fichier ou la signature numérique, permettant une identification lisible par machine.
Pour le contenu réaliste de permutation de visage ou de clonage vocal, le fournisseur doit ajouter un avis bien visible indiquant que le contenu est généré ou édité par IA. Les règles exigent également que les fournisseurs garantissent que les étiquettes ne soient pas facilement supprimées ou altérées. De plus, si un contenu synthétique est utilisé dans le journalisme, le fournisseur doit clairement indiquer sa nature synthétique pour éviter toute confusion avec des images réelles. Cette exigence d'étiquetage s'étend au contenu téléchargé par les utilisateurs, imposant aux plateformes l'obligation de détecter et d'étiqueter ce contenu lors de sa publication.
Consentement de l'utilisateur et droits personnels
Les règlements mettent fortement l'accent sur la protection des droits individuels. Les fournisseurs doivent obtenir un consentement explicite des individus avant d'utiliser leurs informations biométriques, telles que les visages ou les voix, dans la synthèse profonde. Ce consentement doit être informé et volontaire, et les utilisateurs ont le droit de le retirer. Les règles interdisent l'utilisation de la synthèse profonde pour créer ou distribuer du contenu qui porte atteinte à la réputation, à la vie privée ou à d'autres droits légitimes d'une personne.
En outre, les fournisseurs sont tenus de mettre en place des mécanismes permettant aux utilisateurs de signaler les violations, telles que les deepfakes non consensuels. Ils doivent également fournir un moyen aux personnes concernées de demander le retrait du contenu utilisant leur image sans autorisation. Les règlements interdisent explicitement l'utilisation de la synthèse profonde pour produire de fausses nouvelles, des documents diffamatoires ou du contenu perturbant l'ordre social. Cela s'aligne sur les lois plus larges de la Chine en matière de cybersécurité et de protection des données, notamment la loi sur la protection des informations personnelles (PIPL) en vigueur depuis novembre 2021.
Modération du contenu et obligations de sécurité
Les fournisseurs de services doivent mettre en œuvre des systèmes robustes de modération du contenu. Ils sont tenus d'examiner tout contenu synthétique pour détecter les éléments illégaux ou nuisibles, y compris le contenu promouvant le terrorisme, la violence, la pornographie ou la subversion du pouvoir de l'État. Les règlements imposent aux fournisseurs d'utiliser des moyens techniques pour identifier le contenu synthétique et prévenir son usage abusif. Cela inclut la conservation de journaux des activités des utilisateurs et de la génération de contenu pendant au moins six mois, sous réserve des lois sur la conservation des données.
Les fournisseurs doivent également garantir que leurs algorithmes ne renforcent pas des comportements illégaux ou contraires à l'éthique. Les règles exigent que les services de synthèse profonde soient conçus avec des fonctionnalités de sécurité, telles que la prévention de la génération de contenu usurpant l'identité de responsables gouvernementaux ou de personnalités publiques de manière trompeuse. Dans les cas où le contenu synthétique pourrait affecter l'opinion publique ou la sécurité nationale, les fournisseurs sont tenus de coopérer avec les autorités et de prendre des mesures immédiates pour retirer ou bloquer ce contenu.
Dépôt d'algorithmes et évaluations de sécurité
Un mécanisme de conformité clé est l'exigence de dépôt des algorithmes auprès de la CAC. Les fournisseurs doivent soumettre des informations détaillées sur leurs algorithmes de synthèse profonde, y compris leur objectif, leurs sources de données et leurs risques potentiels. Ce processus de dépôt est similaire à celui des algorithmes de recommandation en vertu des règlements de 2022. La CAC maintient un registre public des algorithmes déposés, et le défaut de dépôt peut entraîner des pénalités.
Des évaluations de sécurité sont requises avant le lancement de nouveaux services ou de mises à jour majeures. Ces évaluations examinent les risques potentiels pour la sécurité nationale, la stabilité sociale et les droits individuels. Les évaluations doivent être menées par des organisations tierces qualifiées ou des équipes internes, et les résultats doivent être soumis à la CAC. Les règlements exigent également que les fournisseurs établissent des plans d'intervention d'urgence pour les incidents de sécurité, tels que les campagnes de deepfake à grande échelle.
Application et pénalités
Les violations des règlements peuvent entraîner des pénalités administratives, notamment des amendes, la suspension des services et la révocation des licences. La CAC et d'autres régulateurs ont le pouvoir de mener des inspections et d'exiger des mesures correctives. Dans les cas graves, une responsabilité pénale peut s'appliquer en vertu du droit pénal chinois, en particulier pour les infractions liées à la fraude, à la diffamation ou à la diffusion de fausses informations.
Depuis l'entrée en vigueur des règlements, la CAC les a activement appliqués. En 2023, plusieurs plateformes ont été publiquement critiquées pour ne pas avoir étiqueté adéquatement le contenu synthétique. La CAC a également publié des orientations sur des cas d'utilisation spécifiques, tels que les présentateurs virtuels générés par IA dans la diffusion en direct, exigeant qu'ils soient clairement identifiés. L'approche d'application reflète une tendance plus large en Chine à réglementer l'intelligence artificielle par des règles sectorielles plutôt que par une loi globale unique.
Impact sur l'industrie et contexte mondial
Les règlements ont eu un impact significatif sur les entreprises nationales et internationales. Les grandes entreprises technologiques chinoises, y compris Alibaba Cloud et d'autres fournisseurs de cloud, ont intégré des fonctionnalités de conformité dans leurs services d'IA, telles que le filigrane automatique et le filtrage de contenu. Les entreprises internationales offrant des outils de synthèse profonde aux utilisateurs chinois ont également ajusté leurs pratiques, souvent en bloquant géographiquement ou en ajoutant des mesures de conformité locales.
À l'échelle mondiale, l'approche de la Chine a été influente. La loi sur l'IA de l'Union européenne, entrée en vigueur en août 2024, inclut des exigences de transparence similaires pour les deepfakes, bien qu'avec des mécanismes d'application différents. Les États-Unis ont adopté une approche plus fragmentée, avec des lois au niveau des États et des directives fédérales. Les règlements chinois se distinguent par leur portée exhaustive et l'intégration du dépôt algorithmique, ce qui est unique parmi les grandes économies.
Développements futurs et défis
En 2025, la CAC a signalé qu'elle mettrait à jour les règlements pour répondre aux technologies émergentes, telles que la génération de contenu basée sur les grands modèles de langage et les vidéos deepfake en temps réel. L'évolution rapide de l'IA générative pose des défis pour l'application, car les méthodes de détection sont en retard sur les capacités de génération. Les règlements font également face à des critiques de certains universitaires qui soutiennent que les exigences d'étiquetage sont insuffisantes pour prévenir la désinformation, tandis que d'autres affirment que les règles sont trop restrictives et entravent l'innovation.
Malgré ces défis, les règlements ont établi une base de référence pour une utilisation responsable de la synthèse profonde en Chine. Ils ont favorisé le développement de normes techniques pour le filigrane et la provenance du contenu, et ils ont encouragé la recherche sur les algorithmes de détection. L'efficacité à long terme des règlements dépendra des mises à jour continues et de la capacité des régulateurs à suivre le rythme des changements technologiques.
Analyse comparative avec d'autres juridictions
Comparé à la loi sur l'IA de l'UE, qui classe les deepfakes comme un risque de transparence, les règlements chinois sont plus prescriptifs, exigeant des formats d'étiquetage spécifiques et des dépôts algorithmiques. L'UE s'appuie sur des obligations générales de transparence et une gestion des risques, tandis que la Chine impose une conformité technique détaillée. Aux États-Unis, l'absence de loi fédérale a conduit à un ensemble disparate de règlements étatiques, comme la loi californienne sur les deepfakes politiques, entrée en vigueur en 2020. L'approche centralisée de la Chine permet une application cohérente mais soulève des préoccupations concernant la surréglementation et la censure.
Les règlements interagissent également avec les exigences de localisation des données en Chine, car les fournisseurs doivent stocker les données des utilisateurs en Chine. Cela a des implications pour les entreprises internationales opérant à l'échelle mondiale. L'exigence de dépôt algorithmique a été comparée à des mesures similaires dans d'autres secteurs, comme les règles de 2021 sur les algorithmes de recommandation, qui ont été utilisées pour contrôler le flux d'informations. Dans l'ensemble, les règlements chinois sur la synthèse profonde représentent un effort pionnier pour gouverner les médias synthétiques, avec des partisans et des critiques observant attentivement leur mise en œuvre.