Las Medidas Provisionales para la Gestión de Servicios de IA Generativa (en chino: 生成式人工智能服务管理暂行办法; pinyin: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) son un conjunto de reglas introducidas por China para regular la inteligencia artificial generativa orientada al público dentro del país. Emitidas por la Administración del Ciberespacio de China junto con otros seis reguladores nacionales, las medidas entraron en vigor el 15 de agosto de 2023. Representan uno de los primeros marcos nacionales integrales para la IA generativa, con el objetivo de fomentar la innovación mientras se abordan riesgos como la seguridad nacional, la estabilidad social y los derechos individuales. Las regulaciones se aplican a servicios ofrecidos al público doméstico, eximiendo los usos corporativos internos y de investigación, y enfatizan un principio de "prudencia inclusiva" con supervisión clasificada.
Las medidas fueron emitidas conjuntamente por la Administración del Ciberespacio de China, la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Educación, el Ministerio de Ciencia y Tecnología, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Nacional de Radio y Televisión. Consisten en 24 artículos organizados en cinco secciones, que cubren disposiciones generales, desarrollo tecnológico y gobernanza, especificaciones de servicio, supervisión y responsabilidad legal, y disposiciones complementarias.
Antecedentes y Propósito
El auge de los grandes modelos de lenguaje y los sistemas de IA generativa a principios de la década de 2020 impulsó a gobiernos de todo el mundo a considerar nuevos enfoques regulatorios. Las medidas de China fueron diseñadas para equilibrar la promoción del avance tecnológico con la necesidad de proteger la seguridad nacional y los intereses públicos. Los objetivos declarados incluyen fomentar el desarrollo saludable y el uso regulado de la IA generativa, salvaguardar los intereses sociales y defender los derechos legales de los ciudadanos. La filosofía regulatoria enfatiza un énfasis igual en el desarrollo y la seguridad, promoviendo la innovación junto con el estado de derecho y adoptando un enfoque clasificado e inclusivo para la supervisión.
Alcance y Exenciones
El artículo 2 define el alcance de las medidas, aplicándose a los servicios de IA generativa proporcionados al público dentro de la República Popular China. Los servicios utilizados internamente por empresas, instituciones de investigación y otras organizaciones que no sirven al público doméstico están explícitamente exentos. Esta exención tiene como objetivo evitar sofocar la innovación interna mientras se centra la supervisión regulatoria en aplicaciones orientadas al consumidor. Las medidas no se aplican a servicios desarrollados en el extranjero a menos que se ofrezcan al público chino.
Principios y Requisitos de Contenido
El artículo 3 establece principios rectores, incluida la búsqueda simultánea de desarrollo y seguridad, el fomento de la innovación y la adhesión al estado de derecho. El artículo 4 impone requisitos de contenido a los servicios de IA generativa: deben cumplir con las leyes pertinentes y respetar la moralidad social, incluidos los Valores Fundamentales Socialistas. Los proveedores deben garantizar que el contenido generado no promueva el derrocamiento del sistema socialista, dañe la seguridad nacional, socave la estabilidad social o contenga discriminación, terrorismo, extremismo, violencia, obscenidad u otra información falsa y dañina prohibida por la ley. Las medidas también requieren que los modelos sean diseñados y entrenados para evitar la discriminación y el sesgo algorítmico, respetar los derechos de propiedad intelectual y la ética empresarial, y evitar poner en peligro la salud física y mental. La transparencia y precisión de los servicios deben mejorarse mediante medidas efectivas.
Desarrollo Tecnológico y Gobernanza
Los artículos 5 y 6 fomentan la innovación en IA generativa en todas las industrias, apoyando la colaboración, el desarrollo de datos y aplicaciones, la innovación independiente en tecnologías centrales, el desarrollo de infraestructura y las plataformas de recursos de datos. Promueven la cooperación internacional, el intercambio de recursos computacionales, la expansión de datos públicos de entrenamiento de alta calidad y la adopción de chips y recursos seguros. El artículo 7 exige que los proveedores garanticen que los datos de entrenamiento sean de alta calidad, precisos, diversos y de origen legítimo sin infringir los derechos de propiedad intelectual. Si se utilizan datos personales, se requiere el consentimiento del usuario. El artículo 8 requiere que los proveedores establezcan reglas claras de etiquetado de datos, incluida la evaluación de calidad, verificación por muestreo, capacitación del personal y supervisión del trabajo de etiquetado.
Especificaciones de Servicio
El artículo 9 trata legalmente a los proveedores como productores de contenido en línea y procesadores de datos personales, requiriendo que firmen acuerdos de servicio con los usuarios que definan derechos y obligaciones. El artículo 10 aborda la protección de menores, exigiendo medidas efectivas para prevenir el uso excesivo y requiriendo que los proveedores aclaren el uso apropiado. El artículo 11 obliga a los proveedores a proteger la privacidad del usuario, minimizar la recopilación y retención de datos y evitar compartir ilegalmente información del usuario. Los proveedores deben aceptar solicitudes de los usuarios para revisar, copiar, modificar o eliminar datos personales. El artículo 12 requiere el etiquetado de imágenes sintetizadas, videos y otro contenido generado para informar a los usuarios. El artículo 13 requiere un servicio estable y continuo para un uso normal. El artículo 14 obliga a los proveedores a abordar rápidamente el contenido ilegal o el mal uso, incluida la detención de la generación, el reentrenamiento de modelos, la advertencia a los usuarios y el informe a las autoridades. El artículo 15 exige mecanismos de queja y denuncia para las reclamaciones públicas.
Supervisión, Inspección y Responsabilidad
Los artículos 16 a 21 delinean el marco de supervisión. El artículo 16 asigna roles de supervisión a organismos gubernamentales pertinentes de ciberseguridad, tecnología, industria, educación, seguridad pública y otros. El artículo 17 requiere evaluaciones de seguridad para servicios con influencia en la opinión pública, así como procedimientos de registro de algoritmos. El artículo 18 permite a los usuarios quejarse ante las autoridades sobre servicios no conformes. El artículo 19 permite a los funcionarios inspeccionar a los proveedores, quienes deben cooperar y proporcionar transparencia. El artículo 20 aborda servicios extranjeros que violen las medidas, permitiendo al gobierno tomar medidas. El artículo 21 define las autoridades que pueden sancionar a los infractores, con delitos investigados según la ley.
Términos Clave y Fecha de Vigencia
El artículo 22 define términos clave como IA generativa, proveedores de servicios y usuarios de servicios. El artículo 23 requiere que los proveedores obtengan licencias pertinentes cuando sea legalmente obligatorio. El artículo 24 establece la fecha de vigencia del 15 de agosto de 2023. Las medidas han sido vistas como un modelo para otras jurisdicciones que intentan regular la inteligencia artificial, equilibrando la innovación con la protección social.