En 2024, California promulgó una serie de leyes de inteligencia artificial que se extendieron mucho más allá del ampliamente publicitado Proyecto de Ley 1047 del Senado. Mientras que el SB 1047, la Ley de Innovación Segura y Segura para Modelos de Inteligencia Artificial de Frontera, dominó los titulares nacionales y finalmente fue vetado por el Gobernador Gavin Newsom el 29 de septiembre de 2024, la legislatura estatal aprobó y el gobernador firmó numerosas otras medidas relacionadas con la IA. Estas leyes abordaron una amplia gama de preocupaciones, incluyendo la transparencia en el contenido generado por IA, el uso de deepfakes en campañas políticas y la responsabilidad de los sistemas de toma de decisiones automatizados. En conjunto, posicionaron a California como pionera en la regulación de la IA, incluso cuando el enfoque del estado seguía siendo más fragmentado que el marco integral propuesto por el SB 1047.
El paquete legislativo reflejó una creciente urgencia entre los legisladores de California para responder a la rápida proliferación de herramientas de IA generativa. Las leyes se elaboraron en medio de un intenso cabildeo por parte de grupos industriales, instituciones académicas y organizaciones de la sociedad civil. El Gobernador Newsom, un demócrata, firmó los proyectos de ley en una serie de anuncios a lo largo de septiembre de 2024, enfatizando la necesidad de proteger a los consumidores y votantes mientras se fomenta la innovación. Los estatutos resultantes crearon nuevas obligaciones para las empresas que desarrollan y despliegan sistemas de inteligencia artificial dentro del estado, que alberga a muchas de las principales empresas de IA del mundo, incluyendo OpenAI, Anthropic y Google DeepMind.
Transparencia en el Contenido Generado por IA
Una de las piezas legislativas más significativas fue el Proyecto de Ley 2013 de la Asamblea, que exigía transparencia en los datos de entrenamiento. La ley requiere que los desarrolladores de sistemas de IA generativa publiquen documentación sobre los conjuntos de datos utilizados para entrenar sus modelos. Esta documentación debe incluir información sobre las fuentes de los datos, si los datos incluyen material protegido por derechos de autor y cómo se seleccionaron y procesaron los datos. La ley se aplica a los desarrolladores que proporcionan servicios de IA a los californianos, independientemente de dónde tenga su sede la empresa. Entró en vigor el 1 de enero de 2025, dando a las empresas un breve plazo para cumplir.
El AB 2013 fue visto como una respuesta directa a las demandas presentadas por autores y artistas contra empresas como OpenAI y Anthropic, quienes alegaron que sus obras protegidas por derechos de autor se utilizaron sin permiso para entrenar modelos de lenguaje de gran tamaño. La ley no prohíbe el uso de material protegido por derechos de autor, pero obliga a la transparencia sobre su uso. Expertos legales señalaron que los requisitos de documentación podrían ser onerosos para las startups más pequeñas, mientras que las empresas más grandes con más recursos estaban mejor posicionadas para cumplir. La ley también requería que los desarrolladores describieran el propósito del modelo y los casos de uso previstos, así como cualquier limitación o riesgo conocido.
Deepfakes en Campañas Políticas
California también actuó agresivamente para regular el uso de deepfakes en las elecciones. El Proyecto de Ley 2655 de la Asamblea, firmado como ley en septiembre de 2024, requiere que las grandes plataformas en línea etiqueten o eliminen contenido engañoso generado por IA relacionado con las elecciones. La ley se aplica a contenido que representa a un candidato o funcionario electo de manera materialmente engañosa, como un video falso que muestra a un candidato diciendo algo que nunca dijo. Las plataformas deben actuar dentro de las 72 horas posteriores a la notificación de dicho contenido. La ley se basa en estatutos anteriores de California que abordaban los deepfakes en las elecciones, pero extiende los requisitos a una gama más amplia de plataformas y contenido.
El AB 2655 fue complementado por el Proyecto de Ley 2839 de la Asamblea, que permite a los tribunales emitir mandamientos judiciales contra la distribución de contenido electoral engañoso generado por IA. La ley también permite a los candidatos buscar remedios legales acelerados. Juntas, estas leyes crearon un marco legal robusto para combatir la desinformación impulsada por IA en el ciclo electoral de 2024 y más allá. Los partidarios argumentaron que las leyes eran necesarias para proteger los procesos democráticos, mientras que los críticos plantearon preocupaciones sobre posibles violaciones de la Primera Enmienda y la dificultad de definir qué constituye un deepfake "materialmente engañoso".
Responsabilidad Algorítmica y Toma de Decisiones Automatizada
Otra ley notable, el Proyecto de Ley 942 del Senado, abordó el uso de la IA en sistemas de toma de decisiones automatizados. La ley requiere que las empresas que utilizan IA para tomar decisiones consecuentes - como aquellas que afectan el empleo, la vivienda, el crédito o la atención médica - proporcionen a los consumidores información significativa sobre cómo funciona el sistema. Esto incluye la lógica involucrada en la decisión, la importancia del papel de la IA y el derecho del consumidor a optar por no participar o solicitar una revisión humana. La ley entró en vigor el 1 de enero de 2025 y se modeló en parte según el Reglamento General de Protección de Datos de la Unión Europea.
El SB 942 fue elogiado por los defensores de la privacidad como un paso hacia la transparencia algorítmica. Sin embargo, también fue criticado por ser vago sobre lo que constituye una "decisión consecuente" y por no requerir que las empresas realicen auditorías independientes de sus sistemas. Los mecanismos de aplicación de la ley se dejaron en gran medida a la Agencia de Protección de la Privacidad de California, que fue encargada de emitir regulaciones para implementar el estatuto. Algunos grupos industriales advirtieron que la ley podría conducir a un mosaico de cargas de cumplimiento, ya que las empresas necesitarían adaptar sus sistemas para cumplir con los requisitos de California.
Protecciones para Artistas y Creadores
California también promulgó leyes destinadas a proteger a actores, músicos y otros artistas de réplicas de IA no autorizadas. El Proyecto de Ley 2602 de la Asamblea requiere que los contratos entre artistas y estudios incluyan un lenguaje claro sobre el uso de réplicas digitales. La ley, que entró en vigor el 1 de enero de 2025, prohíbe el uso de una réplica digital de un artista sin consentimiento explícito, a menos que el uso esté cubierto por un acuerdo de negociación colectiva. Fue apoyada por el Sindicato de Actores de Pantalla - Federación Estadounidense de Artistas de Televisión y Radio (SAG-AFTRA), que había concluido recientemente una huelga que incluía preocupaciones sobre la IA.
Una ley relacionada, el Proyecto de Ley 1836 de la Asamblea, extendió protecciones similares a artistas fallecidos. Requiere el consentimiento del patrimonio o los herederos antes de que se pueda utilizar una réplica digital de una persona fallecida en una producción comercial. La ley fue vista como una respuesta al creciente uso de la IA para recrear las apariencias de figuras históricas y celebridades fallecidas. Ambas leyes fueron notables por su especificidad, abordando los desafíos únicos planteados por la IA en la industria del entretenimiento, que es un importante motor económico en California.
El Veto del SB 1047
A pesar de la aprobación de estas leyes, la pieza más ambiciosa de legislación de IA en California no se convirtió en ley. El SB 1047, presentado por el Senador Scott Wiener, habría requerido que los desarrolladores de grandes modelos de IA implementaran protocolos de seguridad, incluyendo un interruptor de apagado y auditorías de terceros. El proyecto de ley también habría creado una nueva agencia estatal para supervisar los modelos de IA de frontera. El Gobernador Newsom vetó el proyecto de ley el 29 de septiembre de 2024, argumentando que era demasiado amplio y podría sofocar la innovación. En su mensaje de veto, Newsom dijo que el proyecto de ley se centraba en los modelos más grandes y podría imponer "estándares estrictos" que no estaban justificados por los riesgos actuales.
El veto fue una victoria para muchos en la industria tecnológica, incluyendo OpenAI y Anthropic, que habían hecho cabildeo contra el proyecto de ley. Sin embargo, decepcionó a los defensores que argumentaron que California necesitaba salvaguardas sólidas contra los posibles daños de la IA avanzada. En su mensaje, Newsom dijo que había instruido a las agencias estatales a trabajar con expertos para desarrollar enfoques alternativos, incluyendo marcos basados en riesgos para la regulación de la IA. El veto destacó la tensión entre el deseo del estado de liderar en la regulación de la IA y su interés en mantener su posición como un centro global para la innovación tecnológica.
Reacciones y Respuesta de la Industria
Las leyes de 2024 atrajeron reacciones mixtas de la industria de la IA. Empresas como OpenAI y Anthropic apoyaron públicamente algunas de las medidas de transparencia y deepfakes, mientras expresaban preocupaciones sobre la carga acumulativa del cumplimiento. Las startups más pequeñas, particularmente aquellas en el espacio de IA generativa, se preocuparon de que los requisitos de documentación del AB 2013 fueran difíciles de cumplir. Algunas empresas comenzaron a contratar oficiales de cumplimiento y equipos legales para navegar las nuevas regulaciones. Grupos industriales, como la Cámara de Progreso y la asociación comercial TechNet, argumentaron que las leyes podrían crear un entorno regulatorio fragmentado, ya que otros estados y el gobierno federal también estaban considerando legislación sobre IA.
Organizaciones de la sociedad civil, incluyendo la Unión Estadounidense de Libertades Civiles y la Fundación Frontera Electrónica, apoyaron generalmente las medidas de transparencia y responsabilidad. Argumentaron que las leyes dieron a los consumidores y votantes herramientas importantes para entender y desafiar las decisiones impulsadas por IA. Sin embargo, algunos defensores de la privacidad señalaron que las leyes no iban lo suficientemente lejos, particularmente en requerir auditorías independientes o prohibir ciertos usos de alto riesgo de la IA por completo. El debate sobre la regulación de la IA en California es probable que continúe, ya que la legislatura estatal ya ha señalado que considerará proyectos de ley adicionales sobre IA en 2025.
Implementación y Aplicación
La implementación de las leyes de 2024 recae en gran medida en las agencias estatales, incluyendo la Agencia de Protección de la Privacidad de California y la oficina del Fiscal General. La Agencia de Protección de la Privacidad está encargada de redactar regulaciones para el SB 942, que aclararán el alcance de la ley y los procedimientos para su aplicación. La agencia ha celebrado talleres públicos para recopilar aportes de las partes interesadas, incluyendo representantes de la industria, académicos y defensores de los consumidores. La oficina del Fiscal General es responsable de hacer cumplir las leyes de deepfakes y puede presentar acciones civiles contra los infractores.
Se espera que el cumplimiento de las nuevas leyes sea una tarea significativa para las empresas que operan en California. El gran sector tecnológico del estado, que incluye a los principales desarrolladores de IA y proveedores de nube como Amazon Web Services, Microsoft Azure y Google Cloud, será el más afectado. Muchas de estas empresas ya han comenzado a publicar documentación de modelos e implementar sistemas de etiquetado de contenido en anticipación a las leyes. El impacto a largo plazo de las leyes dependerá de cómo sean interpretadas por los tribunales y reguladores, así como de si el gobierno federal aprueba su propia legislación sobre IA que podría anticiparse a las leyes estatales.
Contexto Más Amplio y Perspectivas Futuras
Las leyes de IA de California de 2024 son parte de un movimiento global más amplio hacia la regulación de la IA. La Ley de IA de la Unión Europea, adoptada formalmente en 2024, impone requisitos integrales a los sistemas de IA según su nivel de riesgo. Otros países, incluyendo China y el Reino Unido, también han introducido marcos de gobernanza de la IA. En los Estados Unidos, el gobierno federal ha adoptado un enfoque más fragmentado, con órdenes ejecutivas y orientación de agencias en lugar de legislación integral. Las leyes de California, aunque más estrechas que la Ley de IA de la UE, representan un paso significativo en ausencia de acción federal.
El futuro de la regulación de la IA en California sigue siendo incierto. El veto del SB 1047 demostró los desafíos políticos de aprobar legislación integral sobre IA, incluso en un estado con una supermayoría demócrata. Sin embargo, la aprobación del paquete de 2024 mostró que hay apoyo bipartidista para abordar daños específicos, como los deepfakes y el sesgo algorítmico. A medida que la tecnología de IA continúa evolucionando, los legisladores de California probablemente revisitarán el tema, potencialmente introduciendo nuevos proyectos de ley para abordar desafíos emergentes. Por ahora, las leyes de 2024 proporcionan una base para la gobernanza de la IA en el estado, equilibrando la innovación con la protección del consumidor.