El Proyecto de Ley 1047 del Senado de California, titulado Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera, fue una ley estatal propuesta destinada a regular el desarrollo y la implementación de sistemas de inteligencia artificial a gran escala. Presentado por el Senador Estatal Scott Wiener en febrero de 2024, el proyecto buscaba imponer requisitos de seguridad a los desarrolladores de modelos de IA por encima de ciertos umbrales computacionales. Después de ser aprobado por la Legislatura Estatal de California en agosto de 2024, el proyecto fue vetado por el Gobernador Gavin Newsom el 29 de septiembre de 2024, marcando un momento significativo en el debate en curso sobre la regulación de la IA en los Estados Unidos.
El veto fue la culminación de un intenso cabildeo y debate público, atrayendo respuestas de las principales empresas de tecnología, investigadores de IA y grupos de defensa. Los partidarios argumentaron que el proyecto era necesario para prevenir posibles daños catastróficos de la IA avanzada, mientras que los opositores, incluidos muchos en la industria tecnológica, sostuvieron que sofocaría la innovación e impondría obligaciones poco realistas. Las consecuencias del veto han llevado a renovados debates sobre enfoques regulatorios alternativos tanto a nivel estatal como federal.
Antecedentes Legislativos
El Senador Scott Wiener presentó el SB 1047 en febrero de 2024, con el objetivo de establecer un marco regulatorio para los "modelos de IA de frontera" - aquellos entrenados con potencia informática que supera los 10^26 operaciones de punto flotante (FLOPs). El proyecto requería que los desarrolladores implementaran protocolos de seguridad, incluida la capacidad de apagar los modelos rápidamente, y que informaran sobre incidentes graves a una agencia estatal de nueva creación. También ordenaba que los desarrolladores realizaran pruebas previas a la implementación y aseguraran que sus modelos no pudieran modificarse fácilmente para causar víctimas masivas o permitir ciberataques.
El proyecto sufrió varias enmiendas durante su trayectoria legislativa. En particular, una enmienda en agosto de 2024 redujo el alcance al eliminar las disposiciones que habrían creado una nueva agencia estatal, asignando en su lugar la supervisión al Departamento de Tecnología. Otra enmienda eximió a los modelos desarrollados principalmente para fines académicos o de investigación, siempre que no se utilizaran para la implementación comercial.
Aprobación Legislativa
El SB 1047 fue aprobado por la Asamblea Estatal de California el 28 de agosto de 2024, con una votación de 41-16, y por el Senado Estatal el 30 de agosto de 2024, con una votación de 30-8. El proyecto recibió apoyo bipartidista, con algunos republicanos uniéndose a los demócratas a favor. La aprobación se consideró un momento histórico, ya que California alberga a muchas de las principales empresas de IA del mundo, incluidas OpenAI, Anthropic y Google DeepMind.
Veto del Gobernador
El 29 de septiembre de 2024, el Gobernador Gavin Newsom vetó el SB 1047, emitiendo una declaración que expresaba su apoyo a la innovación en IA pero criticaba el enfoque del proyecto. Newsom argumentó que el enfoque del proyecto en el tamaño del modelo y la potencia informática era demasiado limitado y podría dar una falsa sensación de seguridad, mientras que potencialmente disuadía el desarrollo de aplicaciones beneficiosas de IA. Enfatizó la necesidad de un marco regulatorio más flexible y basado en evidencia que pudiera adaptarse a la tecnología en rápida evolución.
El veto no fue del todo inesperado, ya que Newsom había señalado anteriormente su preocupación por la sobrerregulación. En su mensaje de veto, señaló que el proyecto no tenía en cuenta las diversas aplicaciones de la IA y podría imponer requisitos onerosos a los desarrolladores más pequeños. También señaló los esfuerzos federales en curso y la propia orden ejecutiva de California sobre IA, firmada en septiembre de 2023, como foros más apropiados para abordar estos problemas.
Reacciones al Veto
Las reacciones al veto estuvieron marcadamente divididas. Los partidarios del proyecto, incluido el Senador Wiener y varios grupos de defensa de la seguridad de la IA, expresaron su decepción. Wiener calificó el veto como un revés para la seguridad pública y prometió seguir impulsando la regulación. Algunos investigadores de IA, como Yoshua Bengio (aunque no vinculado directamente, es una figura prominente), habían apoyado públicamente el proyecto, argumentando que las medidas de precaución eran esenciales.
Los opositores, incluidos muchos en la industria tecnológica, elogiaron el veto. Empresas como OpenAI y Anthropic habían presionado en contra del proyecto, argumentando que obstaculizaría la innovación y que los umbrales eran arbitrarios. Las firmas de capital de riesgo y los defensores de las startups también acogieron con satisfacción la decisión, afirmando que el proyecto habría expulsado a las empresas de IA de California.
Consecuencias y Panorama Regulatorio
El veto no ha puesto fin al debate sobre la regulación de la IA en California. El Senador Wiener ha indicado planes para presentar una legislación revisada en la próxima sesión, incorporando comentarios de las partes interesadas. Mientras tanto, el Gobernador Newsom ha convocado un panel de expertos para estudiar los riesgos de la IA y hacer recomendaciones para futuras políticas. El estado también ha continuado implementando su orden ejecutiva, que se centra en la contratación responsable de IA y la evaluación de riesgos.
A nivel federal, el veto ha intensificado los llamados a un marco regulatorio nacional de IA. La administración Biden había emitido una orden ejecutiva sobre IA en octubre de 2023, pero la legislación integral sigue pendiente en el Congreso. La falta de acción federal ha llevado a un mosaico de iniciativas estatales, con el enfoque de California siendo observado de cerca como un posible modelo.
Perspectivas de la Industria y Académicas
El veto ha provocado discusiones dentro de la comunidad de IA sobre las mejores formas de garantizar la seguridad sin sofocar el progreso. Algunos investigadores argumentan que la autorregulación y los compromisos voluntarios, como los hechos por los principales laboratorios para pausar el desarrollo de los modelos más potentes, son insuficientes. Otros sostienen que la regulación debería centrarse en aplicaciones específicas de alto riesgo en lugar de en los propios modelos.
Anthropic y OpenAI han establecido equipos internos de seguridad y han pedido supervisión gubernamental, pero se opusieron a las disposiciones específicas del SB 1047. Google DeepMind también ha sido activo en la investigación de seguridad de la IA, pero no tomó una postura pública sobre el proyecto. Instituciones académicas como Stanford AI Lab y Berkeley AI Research han contribuido al debate a través de investigaciones y recomendaciones de políticas.
Perspectivas Futuras
A principios de 2025, no se ha aprobado ningún nuevo proyecto de ley estatal de IA en California, pero las discusiones continúan. El debate sobre el SB 1047 ha puesto de relieve los desafíos de regular una tecnología que evoluciona rápidamente y tiene amplias aplicaciones. El resultado de los futuros esfuerzos legislativos dependerá de equilibrar la innovación con la seguridad pública, y de la capacidad de elaborar reglas que sean efectivas y flexibles.
En ausencia de una regulación vinculante, muchos desarrolladores de IA han adoptado marcos de seguridad voluntarios, como el "marco de seguridad de frontera" propuesto por Anthropic. Estos esfuerzos, aunque no son legalmente exigibles, representan un paso hacia el desarrollo responsable. El veto del SB 1047 se ha convertido así en un caso de estudio en la compleja interacción entre tecnología, política y opinión pública.