Les mesures provisoires pour la gestion des services d'IA générative (chinois : 生成式人工智能服务管理暂行办法 ; pinyin : Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) sont un ensemble de règles introduites par la Chine pour réglementer l'intelligence artificielle générative destinée au public dans le pays. Publiées par l'Administration du cyberespace de Chine aux côtés de six autres organismes de réglementation nationaux, ces mesures sont entrées en vigueur le 15 août 2023. Elles représentent l'un des premiers cadres nationaux complets pour l'IA générative, visant à favoriser l'innovation tout en répondant aux risques tels que la sécurité nationale, la stabilité sociale et les droits individuels. Les réglementations s'appliquent aux services offerts au public national, exemptant les usages internes aux entreprises et à la recherche, et mettent l'accent sur un principe de « prudence inclusive » avec une supervision classifiée.
Les mesures ont été conjointement publiées par l'Administration du cyberespace de Chine, la Commission nationale du développement et de la réforme, le ministère de l'Éducation, le ministère de la Science et de la Technologie, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration nationale de la radio et de la télévision. Elles comprennent 24 articles organisés en cinq sections, couvrant les dispositions générales, le développement technologique et la gouvernance, les spécifications des services, la supervision et la responsabilité légale, ainsi que les dispositions complémentaires.
Contexte et objectif
L'essor des grands modèles de langage et des systèmes d'IA générative au début des années 2020 a incité les gouvernements du monde entier à envisager de nouvelles approches réglementaires. Les mesures chinoises ont été conçues pour équilibrer la promotion du progrès technologique avec la nécessité de protéger la sécurité nationale et les intérêts publics. Les objectifs déclarés incluent l'encouragement du développement sain et de l'utilisation réglementée de l'IA générative, la sauvegarde des intérêts sociétaux et la défense des droits légaux des citoyens. La philosophie réglementaire met l'accent sur une importance égale accordée au développement et à la sécurité, la promotion de l'innovation aux côtés de l'état de droit, et l'adoption d'une approche classifiée et inclusive de la supervision.
Portée et exemptions
L'article 2 définit la portée des mesures, s'appliquant aux services d'IA générative fournis au public au sein de la République populaire de Chine. Les services utilisés en interne par les entreprises, les institutions de recherche et d'autres organisations qui ne servent pas le public national sont explicitement exemptés. Cette exemption vise à éviter d'entraver l'innovation interne tout en concentrant la supervision réglementaire sur les applications destinées aux consommateurs. Les mesures ne s'appliquent pas aux services développés à l'étranger, sauf s'ils sont offerts au public chinois.
Principes et exigences de contenu
L'article 3 établit des principes directeurs, notamment la poursuite simultanée du développement et de la sécurité, l'encouragement de l'innovation et le respect de l'état de droit. L'article 4 impose des exigences de contenu aux services d'IA générative : ils doivent se conformer aux lois pertinentes et respecter la moralité sociale, y compris les valeurs fondamentales du socialisme. Les fournisseurs doivent garantir que le contenu généré ne promeut pas le renversement du système socialiste, ne nuit pas à la sécurité nationale, ne sape pas la stabilité sociale ou ne contient pas de discrimination, de terrorisme, d'extrémisme, de violence, d'obscénité ou d'autres informations fausses et nuisibles interdites par la loi. Les mesures exigent également que les modèles soient conçus et entraînés pour éviter la discrimination et les biais algorithmiques, respecter les droits de propriété intellectuelle et l'éthique des affaires, et éviter de mettre en danger la santé physique et mentale. La transparence et l'exactitude des services doivent être améliorées par des mesures efficaces.
Développement technologique et gouvernance
Les articles 5 et 6 encouragent l'innovation dans l'IA générative à travers les industries, soutenant la collaboration, le développement de données et d'applications, l'innovation indépendante dans les technologies de base, le développement des infrastructures et les plateformes de ressources de données. Ils promeuvent la coopération internationale, le partage des ressources de calcul, l'expansion de données d'entraînement publiques de haute qualité et l'adoption de puces et de ressources sécurisées. L'article 7 impose aux fournisseurs de garantir que les données d'entraînement sont de haute qualité, exactes, diverses et légitimement sourcées sans enfreindre les droits de propriété intellectuelle. Si des informations personnelles sont utilisées, le consentement de l'utilisateur est requis. L'article 8 exige des fournisseurs qu'ils établissent des règles claires d'étiquetage des données, y compris l'évaluation de la qualité, la vérification par échantillonnage, la formation du personnel et la supervision du travail d'étiquetage.
Spécifications des services
L'article 9 traite légalement les fournisseurs comme des producteurs de contenu en ligne et des processeurs de données personnelles, exigeant qu'ils signent des accords de service avec les utilisateurs définissant les droits et obligations. L'article 10 aborde la protection des mineurs, exigeant des mesures efficaces pour prévenir une utilisation excessive et obligeant les fournisseurs à clarifier l'usage approprié. L'article 11 oblige les fournisseurs à protéger la vie privée des utilisateurs, à minimiser la collecte et la conservation des données et à éviter de partager illégalement les informations des utilisateurs. Les fournisseurs doivent accepter les demandes des utilisateurs de consulter, copier, modifier ou supprimer leurs données personnelles. L'article 12 exige l'étiquetage des images, vidéos et autres contenus générés synthétiquement pour informer les utilisateurs. L'article 13 exige un service stable et continu pour un usage normal. L'article 14 oblige les fournisseurs à traiter rapidement le contenu illégal ou les abus, y compris l'arrêt de la génération, le réentraînement des modèles, l'avertissement des utilisateurs et le signalement aux autorités. L'article 15 impose des mécanismes de plainte et de signalement pour les griefs publics.
Supervision, inspection et responsabilité
Les articles 16 à 21 décrivent le cadre de supervision. L'article 16 attribue des rôles de surveillance aux organismes gouvernementaux de cybersécurité, de technologie, d'industrie, d'éducation, de sécurité publique et autres organismes pertinents. L'article 17 exige des évaluations de sécurité pour les services ayant une influence sur l'opinion publique, ainsi que des procédures de dépôt d'algorithmes. L'article 18 permet aux utilisateurs de se plaindre auprès des autorités concernant des services non conformes. L'article 19 permet aux fonctionnaires d'inspecter les fournisseurs, qui doivent coopérer et fournir de la transparence. L'article 20 traite des services étrangers qui violent les mesures, permettant au gouvernement de prendre des mesures. L'article 21 définit les autorités qui peuvent punir les contrevenants, avec des crimes enquêtés conformément à la loi.
Termes clés et date d'entrée en vigueur
L'article 22 définit des termes clés tels que l'IA générative, les fournisseurs de services et les utilisateurs de services. L'article 23 exige des fournisseurs qu'ils obtiennent les licences pertinentes lorsque la loi l'exige. L'article 24 établit la date d'entrée en vigueur du 15 août 2023. Les mesures ont été considérées comme un modèle pour d'autres juridictions tentant de réglementer l'intelligence artificielle, équilibrant l'innovation avec la protection sociétale.