Las Medidas Provisionales para la Gestión de Servicios de IA Generativa (chino: 生成式人工智能服务管理暂行办法; pinyin: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) son un conjunto de regulaciones introducidas por China para gobernar la inteligencia artificial generativa dirigida al público dentro del país. Estas medidas entraron en vigor el 15 de agosto de 2023, estableciendo un marco legal para el desarrollo, despliegue y supervisión de sistemas de IA generativa que interactúan con el público chino. Las regulaciones fueron emitidas conjuntamente por la Administración del Ciberespacio de China y otros seis reguladores nacionales: la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Educación, el Ministerio de Ciencia y Tecnología, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Nacional de Radio y Televisión.
Las medidas representan uno de los primeros intentos regulatorios nacionales integrales dirigidos específicamente a las tecnologías de IA generativa, incluidos los grandes modelos de lenguaje y otras formas de IA generativa. Su objetivo es equilibrar la promoción de la innovación tecnológica con la protección de la seguridad nacional, la estabilidad social y los derechos individuales. El marco se aplica a los servicios proporcionados al público nacional, mientras que exime los usos internos corporativos y de investigación que no llegan a audiencias públicas.
Alcance y Principios Generales
La primera sección de las medidas establece el alcance fundacional y los principios rectores. El Artículo 1 declara la intención de promover el desarrollo saludable y el uso regulado de la IA generativa, salvaguardando al mismo tiempo la seguridad nacional, los intereses públicos sociales y los derechos legales de ciudadanos y organizaciones. El Artículo 2 define el alcance como aplicable a los servicios de IA generativa dirigidos al público dentro de la República Popular China, eximiendo explícitamente los servicios internos de empresas, instituciones de investigación y otras organizaciones que no proporcionan servicios al público nacional.
El Artículo 3 establece principios regulatorios clave: igual énfasis en el desarrollo y la seguridad, promoción de la innovación junto con el estado de derecho, y adopción de un enfoque inclusivo y prudente con supervisión clasificada de los servicios de IA generativa. Este enfoque dual en el desarrollo y la seguridad refleja una política más amplia en la gobernanza tecnológica de China.
El Artículo 4 impone requisitos de contenido sustantivos. Los servicios de IA generativa deben adherirse a las leyes relevantes y respetar la moralidad social, alineándose con los Valores Fundamentales Socialistas. Las medidas prohíben contenido que promueva el derrocamiento del sistema socialista, dañe la seguridad nacional o socave la estabilidad social. También prohíben contenido que promueva discriminación, terrorismo, extremismo, violencia, obscenidad o información falsa y dañina prohibida por la ley. Los modelos deben diseñarse y entrenarse para evitar discriminación o sesgo algorítmico, y los servicios deben respetar los derechos de propiedad intelectual y la ética empresarial. Los proveedores están obligados a proteger los derechos de otros, evitar poner en peligro la salud física y mental, y tomar medidas efectivas para mejorar la transparencia y precisión de sus servicios.
Desarrollo Tecnológico y Gobernanza
La segunda sección se centra en fomentar la innovación mientras se establecen requisitos de gobernanza para la tecnología subyacente. El Artículo 5 fomenta la aplicación innovadora de la IA generativa en todas las industrias para crear contenido positivo, saludable y de alta calidad, apoyando la colaboración en innovación de IA, datos y desarrollo de aplicaciones. El Artículo 6 promueve la innovación independiente en tecnologías centrales de IA, desarrollo de infraestructura y plataformas de recursos de datos, mientras fomenta la cooperación internacional, el intercambio colaborativo de recursos computacionales, la expansión de fuentes de datos públicos de entrenamiento de alta calidad y la adopción de chips y recursos seguros.
El Artículo 7 exige que los proveedores empleen medidas efectivas para garantizar que los datos de entrenamiento sean de alta calidad, precisos, diversos y obtenidos legítimamente sin infringir los derechos de propiedad intelectual. Cuando se utiliza información personal en el entrenamiento, los proveedores deben obtener el consentimiento del usuario. Esta disposición aborda directamente las preocupaciones sobre la procedencia de los datos y la privacidad en el desarrollo de sistemas de aprendizaje automático.
El Artículo 8 requiere que los proveedores formulen reglas de etiquetado de datos claras, específicas y operables en línea con las medidas. Exige evaluación de calidad, verificación por muestreo, capacitación de personal y supervisión para el trabajo de etiquetado, reconociendo la importancia de la calidad de los datos en el entrenamiento de modelos de IA confiables.
Especificaciones del Servicio
La tercera sección detalla las obligaciones de los proveedores al ofrecer servicios al público. El Artículo 9 establece legalmente a los proveedores como productores de contenido en línea y procesadores de datos personales, requiriendo que firmen acuerdos de servicio con los usuarios que definan derechos y obligaciones. El Artículo 10 exige tomar medidas efectivas para prevenir el uso excesivo por parte de menores, requiriendo que los proveedores aclaren el uso apropiado y ayuden a los usuarios a comprender la IA generativa.
El Artículo 11 obliga a los proveedores a proteger la privacidad del usuario, minimizar la recopilación de datos y la retención de información personal, y evitar dar ilegalmente información del usuario a otros. Los proveedores deben aceptar solicitudes de los usuarios para revisar, copiar, modificar o eliminar su información personal, alineándose con principios más amplios de protección de datos. El Artículo 12 requiere el etiquetado de imágenes, videos y otro contenido generado sintéticamente, abordando preocupaciones sobre deepfakes y desinformación.
El Artículo 13 requiere servicios estables y continuos para el uso normal por parte de los usuarios. El Artículo 14 obliga a los proveedores a abordar rápidamente situaciones donde un servicio genera contenido ilegal o se utiliza para actividades ilegales, potencialmente incluyendo detener la generación, reentrenar un modelo, advertir a los usuarios e informar a las autoridades relevantes. El Artículo 15 exige mecanismos de quejas e informes para las quejas públicas con procesamiento y retroalimentación oportunos.
Supervisión y Responsabilidad Legal
La cuarta sección establece el marco de supervisión y las consecuencias legales. El Artículo 16 otorga roles de supervisión regulatoria a organismos gubernamentales relevantes de ciberseguridad, tecnología, industria, educación, seguridad pública y otros. El Artículo 17 requiere evaluaciones de seguridad para servicios con influencia en la opinión pública, junto con procedimientos de registro de algoritmos, creando un mecanismo dual de revisión previa al despliegue y registro continuo.
El Artículo 18 permite a los usuarios quejarse ante las autoridades sobre servicios no conformes. El Artículo 19 permite inspecciones de proveedores por parte de funcionarios, requiriendo cooperación y transparencia. El Artículo 20 permite al gobierno abordar servicios extranjeros que violen las medidas, extendiendo el alcance regulatorio a proveedores internacionales que operan en China. El Artículo 21 define las autoridades relevantes que pueden sancionar a los proveedores que violen las disposiciones, con delitos investigados según la ley.
Disposiciones Complementarias
La quinta sección contiene definiciones y detalles de implementación. El Artículo 22 define términos clave como IA generativa, proveedores de servicios y usuarios de servicios. El Artículo 23 requiere obtener licencias relevantes para proporcionar servicios donde la ley lo exija. El Artículo 24 establece que las medidas entran en vigor el 15 de agosto de 2023.
Las medidas se aplican a una amplia gama de tecnologías de IA generativa, incluidas aquellas construidas sobre grandes modelos de lenguaje y arquitecturas de transformadores. Afectan tanto a empresas chinas nacionales como a empresas extranjeras que ofrecen servicios en China, requiriendo cumplimiento con estándares de contenido, gobernanza de datos y procedimientos de evaluación de seguridad.
Implementación e Impacto
La implementación de estas medidas tiene implicaciones significativas para la industria de la IA. Los proveedores deben realizar evaluaciones de seguridad antes de lanzar servicios que puedan influir en la opinión pública, y deben registrar sus algoritmos ante las autoridades. El requisito de reglas de etiquetado de datos y evaluación de calidad afecta cómo se construyen y validan los conjuntos de datos de entrenamiento.
Las medidas también abordan el uso de técnicas de aprendizaje profundo y redes neuronales en sistemas generativos. Aunque las regulaciones no exigen enfoques técnicos específicos, requieren que los modelos eviten sesgo algorítmico y discriminación, lo que influye en el diseño del modelo y las prácticas de entrenamiento.
Para las empresas internacionales de IA, las medidas crean obligaciones de cumplimiento al ofrecer servicios al público chino. Esto incluye adaptar sistemas de moderación de contenido, implementar mecanismos de consentimiento del usuario para el uso de datos personales y cooperar con inspecciones gubernamentales. Las disposiciones sobre servicios extranjeros indican que la aplicación extraterritorial es posible por violaciones.
El enfoque regulatorio refleja una tendencia más amplia en China hacia una gobernanza integral de la IA. Las medidas complementan otras regulaciones sobre ciberseguridad, protección de datos y sistemas de recomendación de algoritmos, creando un entorno regulatorio en capas. El énfasis tanto en el desarrollo como en la seguridad sugiere un esfuerzo continuo para mantener la competitividad tecnológica mientras se gestionan riesgos potenciales.
A partir de la fecha de entrada en vigor, las medidas representan un marco de referencia que puede actualizarse a medida que evolucionan las tecnologías de IA generativa. El requisito de supervisión clasificada sugiere que diferentes tipos de servicios pueden enfrentar diferentes niveles de escrutinio según su impacto potencial en la opinión pública y la estabilidad social. Las medidas también fomentan la cooperación internacional en innovación de IA, indicando una apertura a la colaboración global a pesar de las restricciones regulatorias.
La implementación práctica de estas medidas continúa desarrollándose, con autoridades emitiendo orientación y realizando evaluaciones. El impacto en la investigación y el desarrollo de IA en China incluye una mayor atención a la calidad de los datos, las prácticas de etiquetado y las medidas de seguridad del contenido. Las medidas también han influido en discusiones sobre gobernanza de IA en otras jurisdicciones, contribuyendo a la conversación global sobre cómo regular las tecnologías de IA generativa.