Les Mesures provisoires pour la gestion des services d'IA générative (en chinois : 生成式人工智能服务管理暂行办法 ; pinyin : Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) sont un ensemble de réglementations introduites par la Chine pour encadrer l'intelligence artificielle générative destinée au public dans le pays. Ces mesures sont entrées en vigueur le 15 août 2023, établissant un cadre juridique pour le développement, le déploiement et la supervision des systèmes d'IA générative qui interagissent avec le public chinois. Les réglementations ont été publiées conjointement par l'Administration du cyberespace de Chine et six autres organismes de régulation nationaux : la Commission nationale du développement et de la réforme, le ministère de l'Éducation, le ministère des Sciences et des Technologies, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration nationale de la radio et de la télévision.
Ces mesures représentent l'une des premières tentatives de réglementation nationale complète ciblant spécifiquement les technologies d'IA générative, y compris les grands modèles de langage et d'autres formes d'IA générative. Elles visent à équilibrer la promotion de l'innovation technologique avec la protection de la sécurité nationale, de la stabilité sociétale et des droits individuels. Le cadre s'applique aux services fournis au public domestique, tout en exemptant les usages internes des entreprises et de la recherche qui n'atteignent pas les audiences publiques.
Portée et principes généraux
La première section des mesures établit la portée fondamentale et les principes directeurs. L'article 1 énonce l'intention de promouvoir le développement sain et l'utilisation réglementée de l'IA générative tout en protégeant la sécurité nationale, les intérêts publics sociétaux et les droits légaux des citoyens et des organisations. L'article 2 définit la portée comme s'appliquant aux services d'IA générative destinés au public au sein de la République populaire de Chine, exemptant explicitement les services internes des entreprises, des institutions de recherche et d'autres organisations qui ne fournissent pas de services au public domestique.
L'article 3 établit des principes réglementaires clés : une importance égale accordée au développement et à la sécurité, la promotion de l'innovation parallèlement à l'état de droit, et une approche inclusive et prudente avec une supervision classifiée des services d'IA générative. Ce double accent sur le développement et la sécurité reflète une approche politique plus large dans la gouvernance technologique chinoise.
L'article 4 impose des exigences substantielles en matière de contenu. Les services d'IA générative doivent adhérer aux lois pertinentes et respecter la moralité sociale, en s'alignant sur les valeurs fondamentales du socialisme. Les mesures interdisent les contenus qui promeuvent le renversement du système socialiste, nuisent à la sécurité nationale ou compromettent la stabilité sociale. Elles interdisent également les contenus qui promeuvent la discrimination, le terrorisme, l'extrémisme, la violence, l'obscénité ou les informations fausses et nuisibles interdites par la loi. Les modèles doivent être conçus et entraînés pour éviter la discrimination ou les biais algorithmiques, et les services doivent respecter les droits de propriété intellectuelle et l'éthique des affaires. Les fournisseurs sont tenus de protéger les droits d'autrui, d'éviter de mettre en danger la santé physique et mentale, et de prendre des mesures efficaces pour améliorer la transparence et l'exactitude de leurs services.
Développement technologique et gouvernance
La deuxième section se concentre sur l'encouragement de l'innovation tout en établissant des exigences de gouvernance pour la technologie sous-jacente. L'article 5 encourage l'application innovante de l'IA générative dans tous les secteurs pour créer des contenus positifs, sains et de haute qualité, soutenant la collaboration sur l'innovation en IA, les données et le développement d'applications. L'article 6 promeut l'innovation indépendante dans les technologies de base de l'IA, le développement des infrastructures et les plateformes de ressources de données, tout en encourageant la coopération internationale, le partage collaboratif des ressources de calcul, l'expansion des sources de données d'entraînement publiques de haute qualité et l'adoption de puces et de ressources sécurisées.
L'article 7 impose aux fournisseurs de prendre des mesures efficaces pour garantir que les données d'entraînement sont de haute qualité, exactes, diversifiées et légitimement sourcées sans enfreindre les droits de propriété intellectuelle. Lorsque des informations personnelles sont utilisées dans l'entraînement, les fournisseurs doivent obtenir le consentement de l'utilisateur. Cette disposition répond directement aux préoccupations concernant la provenance des données et la vie privée dans le développement des systèmes de apprentissage automatique.
L'article 8 exige que les fournisseurs formulent des règles d'étiquetage des données claires, spécifiques et opérationnelles conformément aux mesures. Il impose une évaluation de la qualité, une vérification par échantillonnage, une formation du personnel et une supervision pour le travail d'étiquetage, reconnaissant l'importance de la qualité des données dans l'entraînement de modèles d'IA fiables.
Spécifications des services
La troisième section détaille les obligations des fournisseurs lors de la fourniture de services au public. L'article 9 établit légalement les fournisseurs comme producteurs de contenu en ligne et processeurs de données personnelles, les obligeant à signer des accords de service avec les utilisateurs qui définissent les droits et obligations. L'article 10 impose de prendre des mesures efficaces pour prévenir une utilisation excessive par les mineurs, obligeant les fournisseurs à clarifier l'utilisation appropriée et à aider les utilisateurs à comprendre l'IA générative.
L'article 11 oblige les fournisseurs à protéger la vie privée des utilisateurs, à minimiser la collecte de données et la conservation des informations personnelles, et à éviter de donner illégalement les informations des utilisateurs à d'autres. Les fournisseurs doivent accepter les demandes des utilisateurs de consulter, copier, modifier ou supprimer leurs informations personnelles, en s'alignant sur des principes plus larges de protection des données. L'article 12 exige l'étiquetage des images, vidéos et autres contenus générés synthétisés, répondant aux préoccupations concernant les deepfakes et la désinformation.
L'article 13 exige des services stables et continus pour une utilisation normale par les utilisateurs. L'article 14 oblige les fournisseurs à traiter rapidement les situations où un service génère du contenu illégal ou est utilisé pour des activités illégales, y compris potentiellement l'arrêt de la génération, le réentraînement d'un modèle, l'avertissement aux utilisateurs et le signalement aux autorités compétentes. L'article 15 impose des mécanismes de plainte et de signalement pour les griefs publics avec un traitement et un retour d'information en temps opportun.
Supervision et responsabilité légale
La quatrième section établit le cadre de supervision et les conséquences juridiques. L'article 16 confère des rôles de surveillance réglementaire aux organismes gouvernementaux de cybersécurité, de technologie, d'industrie, d'éducation, de sécurité publique et autres organismes pertinents. L'article 17 exige des évaluations de sécurité pour les services ayant une influence sur l'opinion publique, ainsi que des procédures de dépôt d'algorithmes, créant un double mécanisme de révision avant déploiement et d'enregistrement continu.
L'article 18 permet aux utilisateurs de se plaindre auprès des autorités des services non conformes. L'article 19 permet aux fonctionnaires d'inspecter les fournisseurs, exigeant coopération et transparence. L'article 20 permet au gouvernement de traiter les services étrangers qui violent les mesures, étendant la portée réglementaire aux fournisseurs internationaux opérant en Chine. L'article 21 définit les autorités compétentes qui peuvent punir les fournisseurs qui violent les dispositions, les crimes étant enquêtés conformément à la loi.
Dispositions supplémentaires
La cinquième section contient des définitions et des détails de mise en œuvre. L'article 22 définit des termes clés tels que l'IA générative, les fournisseurs de services et les utilisateurs de services. L'article 23 exige l'obtention des licences pertinentes pour fournir des services lorsque la loi l'exige. L'article 24 établit que les mesures prennent effet le 15 août 2023.
Les mesures s'appliquent à une large gamme de technologies d'IA générative, y compris celles construites sur des grands modèles de langage et des architectures de transformeurs. Elles affectent à la fois les entreprises chinoises domestiques et les entreprises étrangères offrant des services en Chine, exigeant la conformité avec les normes de contenu, la gouvernance des données et les procédures d'évaluation de la sécurité.
Mise en œuvre et impact
La mise en œuvre de ces mesures a des implications significatives pour l'industrie de l'IA. Les fournisseurs doivent effectuer des évaluations de sécurité avant de lancer des services qui pourraient influencer l'opinion publique, et ils doivent déposer leurs algorithmes auprès des autorités. L'exigence de règles d'étiquetage des données et d'évaluation de la qualité affecte la manière dont les ensembles de données d'entraînement sont construits et validés.
Les mesures abordent également l'utilisation des techniques de apprentissage profond et des réseaux neuronaux dans les systèmes génératifs. Bien que les réglementations ne mandatent pas d'approches techniques spécifiques, elles exigent que les modèles évitent les biais algorithmiques et la discrimination, ce qui influence la conception des modèles et les pratiques d'entraînement.
Pour les entreprises internationales d'IA, les mesures créent des obligations de conformité lorsqu'elles offrent des services au public chinois. Cela inclut l'adaptation des systèmes de modération de contenu, la mise en œuvre de mécanismes de consentement des utilisateurs pour l'utilisation des données personnelles et la coopération avec les inspections gouvernementales. Les dispositions sur les services étrangers indiquent qu'une application extraterritoriale est possible en cas de violations.
L'approche réglementaire reflète une tendance plus large en Chine vers une gouvernance globale de l'IA. Les mesures complètent d'autres réglementations sur la cybersécurité, la protection des données et les systèmes de recommandation d'algorithmes, créant un environnement réglementaire en couches. L'accent mis à la fois sur le développement et la sécurité suggère un effort continu pour maintenir la compétitivité technologique tout en gérant les risques potentiels.
À la date d'entrée en vigueur, les mesures représentent un cadre de référence qui peut être mis à jour à mesure que les technologies d'IA générative évoluent. L'exigence de supervision classifiée suggère que différents types de services peuvent faire face à différents niveaux de contrôle en fonction de leur impact potentiel sur l'opinion publique et la stabilité sociale. Les mesures encouragent également la coopération internationale dans l'innovation en IA, indiquant une ouverture à la collaboration mondiale malgré les contraintes réglementaires.
La mise en œuvre pratique de ces mesures continue de se développer, avec les autorités publiant des orientations et effectuant des évaluations. L'impact sur la recherche et le développement en IA en Chine comprend une attention accrue à la qualité des données, aux pratiques d'étiquetage et aux mesures de sécurité du contenu. Les mesures ont également influencé les discussions sur la gouvernance de l'IA dans d'autres juridictions, contribuant à la conversation mondiale sur la manière de réglementer les technologies d'IA générative.