La Ley del Senado de California 1047, titulada formalmente como la Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera, fue una ley estatal propuesta destinada a regular el desarrollo y despliegue de sistemas de inteligencia artificial a gran escala. Presentada por el Senador Estatal Scott Wiener en febrero de 2024, el proyecto de ley buscaba imponer requisitos de seguridad a los desarrolladores de modelos de IA de frontera - aquellos entrenados con una potencia computacional significativa - para prevenir daños catastróficos como ciberataques o la creación de armas biológicas. El proyecto de ley fue aprobado por la Legislatura Estatal de California en agosto de 2024, pero fue vetado por el Gobernador Gavin Newsom el 29 de septiembre de 2024, convirtiendo a California en el primer estado de EE. UU. en intentar una legislación integral de seguridad de IA, aunque el veto dejó el panorama regulatorio sin resolver.
Las disposiciones centrales del proyecto de ley se dirigían a los desarrolladores de modelos de IA entrenados con más de 10^26 operaciones de punto flotante (FLOPs), un umbral que en ese momento abarcaba solo los sistemas más avanzados de los principales laboratorios. Requería que dichos desarrolladores implementaran un marco de seguridad y protección por escrito, realizaran pruebas previas al despliegue y garantizaran que los modelos pudieran apagarse por completo en emergencias. El proyecto de ley también establecía una nueva agencia estatal, la División de Modelos de Frontera, dentro del Departamento de Tecnología, para hacer cumplir el cumplimiento y emitir sanciones por violaciones. Notablemente, incluía una cláusula de protección para denunciantes para empleados que reportaran preocupaciones de seguridad, y exigía que los desarrolladores certificaran anualmente su cumplimiento ante el fiscal general del estado.
Trayectoria Legislativa y Enmiendas Clave
El SB 1047 experimentó revisiones significativas durante su paso por el Senado y la Asamblea de California. Presentado inicialmente en febrero de 2024, el proyecto de ley fue enmendado en abril para reducir su alcance, centrándose en modelos con costos de entrenamiento superiores a $100 millones. Enmiendas posteriores en agosto aclararon que el proyecto de ley no se aplicaría a modelos de código abierto a menos que fueran ajustados o modificados para cumplir con el umbral, y eximía a los modelos utilizados únicamente para investigación o fines de seguridad nacional. El proyecto de ley también incluía un requisito de "interruptor de apagado", que obligaba a los desarrolladores a implementar una capacidad para detener por completo la operación del modelo, y requería la creación de un "marco de seguridad" que estaría disponible públicamente.
El proyecto de ley fue aprobado por el Senado el 21 de mayo de 2024, con una votación de 32-1, y por la Asamblea el 28 de agosto de 2024, con una votación de 45-11. La versión final fue aprobada por el Senado el 30 de agosto de 2024 y enviada al Gobernador Newsom. Durante todo el proceso, el proyecto de ley atrajo un intenso cabildeo tanto de partidarios como de opositores, con empresas tecnológicas e instituciones académicas opinando sobre su posible impacto en la innovación.
Apoyo y Oposición
Los partidarios del SB 1047, incluidos destacados investigadores de IA como Yoshua Bengio, Geoffrey Hinton y Stuart Russell, argumentaron que el proyecto de ley era una precaución necesaria contra los posibles riesgos existenciales planteados por la IA avanzada. Sostuvieron que los compromisos voluntarios de la industria eran insuficientes y que la regulación gubernamental era esencial para garantizar la seguridad. El proyecto de ley también fue respaldado por sindicatos laborales, grupos de defensa del consumidor y algunos ejecutivos tecnológicos, que lo veían como una forma de responsabilizar a los desarrolladores de IA por los daños.
Los opositores, incluidas importantes empresas de IA como OpenAI, Anthropic y Google DeepMind, así como grupos comerciales tecnológicos y algunos académicos, argumentaron que el proyecto de ley era demasiado amplio y sofocaría la innovación. Afirmaron que el umbral de FLOPs era arbitrario y que el proyecto de ley impondría costos de cumplimiento onerosos, particularmente para las startups más pequeñas. Algunos críticos también argumentaron que el enfoque del proyecto de ley en riesgos catastróficos hipotéticos distraía de daños más inmediatos como el sesgo y la desinformación. Notablemente, Anthropic inicialmente expresó preocupaciones, pero luego ofreció una postura más solidaria, sugiriendo enmiendas que se incorporaron parcialmente.
Veto del Gobernador Newsom y Justificación
El 29 de septiembre de 2024, el Gobernador Gavin Newsom vetó el SB 1047, citando preocupaciones sobre su alcance "demasiado amplio" y su potencial para "asfixiar" la innovación. En su mensaje de veto, Newsom reconoció la importancia de la seguridad de la IA, pero argumentó que el enfoque del proyecto de ley en el tamaño del modelo y los umbrales de cómputo no era el enfoque más efectivo. Señaló que el proyecto de ley podría imponer requisitos "inviables" a los desarrolladores y que no abordaba adecuadamente la gama completa de riesgos de la IA, como la discriminación algorítmica y el desplazamiento laboral. Newsom en cambio pidió un marco regulatorio más equilibrado, señalando las órdenes ejecutivas en curso y las colaboraciones con expertos para desarrollar políticas basadas en evidencia.
El veto fue recibido con reacciones mixtas. Los partidarios expresaron decepción, con el Senador Wiener prometiendo continuar la lucha en futuras sesiones. Los opositores elogiaron la decisión, con grupos de la industria tecnológica afirmando que el veto protegía el liderazgo de California en IA. El veto también provocó un debate sobre el papel de la regulación estatal versus federal, ya que el Congreso de EE. UU. aún no había aprobado una legislación integral de IA.
Impacto y Consecuencias
Tras el veto, el tema de la regulación de la IA siguió siendo un tema prominente en California y a nivel nacional. En octubre de 2024, el Gobernador Newsom firmó varios otros proyectos de ley relacionados con la IA, incluidas medidas que abordan los deepfakes y el uso de la IA en la atención médica, pero se negó a promulgar una legislación de seguridad más amplia. El veto también influyó en las discusiones en otros estados, con algunos legisladores considerando proyectos de ley similares pero ajustando sus enfoques según la experiencia de California.
El debate sobre el SB 1047 destacó los desafíos de regular tecnología en rápida evolución. Los partidarios del proyecto de ley argumentaron que esperar la acción federal dejaría al público desprotegido, mientras que los opositores sostuvieron que la regulación prematura podría obstaculizar desarrollos beneficiosos. El legado del proyecto de ley incluye aumentar la conciencia sobre los problemas de seguridad de la IA y llevar a las empresas a adoptar compromisos voluntarios de seguridad, como los realizados en la Cumbre de Seguridad de IA de la Casa Blanca en 2023.
Contexto Más Amplio en la Regulación de la IA
El SB 1047 fue parte de un movimiento global más amplio hacia la regulación de la IA. La Ley de IA de la Unión Europea, que se finalizó en 2024, adoptó un enfoque basado en riesgos, categorizando las aplicaciones de IA por nivel de riesgo e imponiendo obligaciones en consecuencia. En contraste, el SB 1047 se centró específicamente en modelos de frontera, una distinción que algunos expertos argumentaron que era más específica pero también más arbitraria. El fracaso del proyecto de ley subrayó la dificultad de redactar legislación que equilibre innovación y seguridad, un desafío que continúa ocupando a los responsables políticos en todo el mundo.
Consideraciones Técnicas y Éticas
La dependencia del proyecto de ley en umbrales de FLOPs planteó preguntas técnicas sobre cómo medir las capacidades de la IA. Los críticos señalaron que el cómputo no es un proxy perfecto para el riesgo, ya que los modelos más pequeños a veces pueden ajustarse para lograr capacidades peligrosas. El proyecto de ley también tocó cuestiones éticas, como la responsabilidad de los desarrolladores por los usos posteriores de sus modelos y la tensión entre transparencia y seguridad nacional. Estas consideraciones siguen siendo centrales en los debates en curso sobre la gobernanza de la IA.
Perspectivas Futuras
A principios de 2025, ningún proyecto de ley similar ha sido promulgado en California, pero el Senador Wiener ha indicado que reintroducirá legislación en la próxima sesión, posiblemente con criterios revisados. Mientras tanto, el gobierno federal ha tomado medidas para abordar la seguridad de la IA, incluida una orden ejecutiva del Presidente Biden en octubre de 2023 y el establecimiento del Instituto de Seguridad de IA de EE. UU. El resultado de estos esfuerzos probablemente dará forma al futuro de la regulación de la IA en los Estados Unidos, con la experiencia de California sirviendo como una advertencia o un modelo, dependiendo de la perspectiva.