El debate sobre la SB 1047 de California fue una controversia legislativa fundamental en 2024 sobre la propuesta de Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera. El proyecto de ley, presentado en el Senado del Estado de California, tenía como objetivo imponer requisitos de seguridad a los desarrolladores de sistemas de inteligencia artificial a gran escala. Encendió un feroz enfrentamiento entre los partidarios que enfatizaban los riesgos catastróficos y los opositores que advertían que sofocaría la innovación y dañaría la economía tecnológica del estado. El debate se convirtió en un referéndum nacional sobre cómo gobernar la tecnología de IA que avanza rápidamente.
La legislación se dirigía a los "modelos de frontera": sistemas de IA entrenados con una potencia computacional significativa, que normalmente supera las 10^26 operaciones de coma flotante. Habría requerido que los desarrolladores implementaran protocolos de seguridad, realizaran pruebas previas al despliegue y establecieran una nueva agencia estatal para supervisar el cumplimiento. Crucialmente, incluía una disposición que permitía al fiscal general del estado demandar a los desarrolladores por daños graves causados por sus modelos, una cláusula que se convirtió en un punto central de contención.
Antecedentes Legislativos y Cronología
El senador Scott Wiener presentó la SB 1047 en febrero de 2024. El proyecto de ley fue aprobado por el Senado de California en mayo de 2024 por una votación de 32-1, lo que refleja un apoyo bipartidista inicial. Luego pasó a la Asamblea, donde experimentó enmiendas significativas en respuesta a las críticas de la industria. La versión enmendada redujo la definición de modelos cubiertos, eximió a los modelos de código abierto con menos de 10^26 operaciones y eliminó la responsabilidad penal para los desarrolladores. A pesar de estos cambios, el proyecto de ley siguió siendo controvertido.
En septiembre de 2024, la Asamblea de California aprobó el proyecto de ley por 41-20, y el Senado lo confirmó por 30-8. El gobernador Gavin Newsom lo convirtió en ley el 29 de septiembre de 2024, convirtiendo a California en el primer estado de EE. UU. en promulgar una legislación integral de seguridad de la IA. Sin embargo, la implementación de la ley fue impugnada de inmediato por demandas de grupos de la industria, y su futuro seguía siendo incierto a principios de 2025.
Argumentos a Favor
Los partidarios, incluidos investigadores de IA y defensores de la seguridad, argumentaron que el rápido avance de la Artificial intelligence planteaba riesgos existenciales. Señalaron el potencial de los Large language model para ser mal utilizados en ciberataques, el desarrollo de armas biológicas o acciones autónomas dañinas. Citaron encuestas que mostraban que una mayoría de investigadores de IA creía que había una probabilidad significativa de resultados catastróficos por una IA no alineada.
Los partidarios enfatizaron el principio de precaución: dado lo mucho que está en juego, la sociedad debería actuar antes de que ocurran desastres. Señalaron que California, como hogar de Silicon Valley, tenía la responsabilidad de liderar en la gobernanza responsable de la IA. El requisito del proyecto de ley de evaluaciones de seguridad y notificación de incidentes se consideró un primer paso necesario hacia la regulación federal.
Entre los partidarios prominentes se encontraban profesores de BAIR (Berkeley AI Research), el centro-para-la-seguridad-de-la-ia (no en la lista, pero usado como texto visible), y figuras como Joshua Tenenbaum y Melanie Mitchell, quienes argumentaron que la transparencia y la rendición de cuentas eran esenciales. También destacaron encuestas de opinión pública que mostraban un amplio apoyo a la regulación de la IA en todos los partidos.
Argumentos en Contra
Los opositores, incluidas las principales empresas tecnológicas y algunos académicos, argumentaron que el proyecto de ley era prematuro y perjudicaría la innovación. Sostuvieron que la definición de "modelo de frontera" era arbitraria y capturaría modelos que aún no eran peligrosos. Advirtieron que la amenaza de litigios disuadiría la inversión y llevaría la investigación de la IA a otros estados o países.
Empresas como OpenAI y Anthropic, ambas con sede en California, expresaron su preocupación, aunque sus posiciones eran matizadas. OpenAI inicialmente se opuso al proyecto de ley, citando un exceso regulatorio, mientras que Anthropic ofreció sugerencias para enmiendas. Otros gigantes tecnológicos, incluidos Google DeepMind y meta (no en la lista), presionaron en contra, argumentando que la regulación federal sería más apropiada.
Los opositores también afirmaron que los requisitos del proyecto de ley eran técnicamente inviables. Argumentaron que los métodos actuales de prueba de seguridad eran inadecuados y que los mandatos del proyecto de ley no podían implementarse de manera confiable. Algunos académicos, como Aleksander Madry y Ali Rahimi, cuestionaron si el enfoque del proyecto de ley realmente mejoraría la seguridad, sugiriendo que podría crear una falsa sensación de seguridad.
El Papel de los Laboratorios de IA y la Industria
El debate destacó una división dentro de la industria de la IA. Mientras que OpenAI y Anthropic a menudo eran vistos como líderes en seguridad, tenían posturas diferentes. El CEO de Anthropic, Dario Amodei (no en la lista), testificó a favor del proyecto de ley después de las enmiendas, mientras que Sam Altman de OpenAI (no en la lista) permaneció en contra, argumentando que las disposiciones de responsabilidad del proyecto de ley eran demasiado amplias.
Las startups de IA más pequeñas y los defensores del código abierto fueron particularmente vocales en su oposición. Temían que los costos de cumplimiento fueran prohibitivos, favoreciendo a los grandes actores establecidos. El Stanford AI Lab y el MIT CSAIL emitieron declaraciones advirtiendo que el proyecto de ley podría obstaculizar la investigación académica y el desarrollo de código abierto.
Curiosamente, algunos investigadores de IA que no estaban directamente involucrados en la industria, como Anima Anandkumar y Michael I. Jordan, expresaron su preocupación por los supuestos técnicos del proyecto de ley. Argumentaron que el enfoque en los umbrales de cómputo ignoraba otros factores de riesgo y que el proyecto de ley podría no abordar los problemas más apremiantes.
Perspectivas Académicas y de Expertos
La comunidad académica estaba dividida. Un grupo de más de 100 investigadores de IA firmó una carta abierta apoyando el proyecto de ley, incluidos Samy Bengio, Aaron Courville y Brendan Lake. Argumentaron que los requisitos del proyecto de ley eran modestos y que la industria podría adaptarse. También señalaron que el proyecto de ley crearía un marco regulatorio muy necesario.
Por el contrario, una carta separada firmada por investigadores como Carlos Guestrin y Chris Bishop se opuso al proyecto de ley, alegando que ralentizaría el progreso sin beneficios claros. Abogaron por enfoques alternativos, como compromisos voluntarios de seguridad y pautas federales.
Algunos expertos, como Jacob Steinhardt y David Kaplan, adoptaron una posición intermedia, reconociendo la necesidad de regulación pero criticando disposiciones específicas. Sugirieron que la cláusula de responsabilidad del proyecto de ley podría tener consecuencias no deseadas, como desalentar la liberación de modelos de código abierto que podrían ajustarse para la investigación de seguridad.
Reacción Política y Pública
El debate se convirtió en un punto de inflexión en la política nacional. Los partidarios lo enmarcaron como un control necesario sobre el poder corporativo, mientras que los opositores lo etiquetaron como una intromisión del gobierno. El proyecto de ley atrajo la atención nacional, con candidatos presidenciales opinando. Algunos argumentaron que la acción de California presionaría al gobierno federal para actuar, mientras que otros temían un mosaico de regulaciones estatales.
La opinión pública era generalmente de apoyo, con encuestas que mostraban que una mayoría de californianos favorecía la regulación de la IA. Sin embargo, los esfuerzos de cabildeo de la industria tecnológica fueron intensos, y la aprobación del proyecto de ley se vio como una victoria para los defensores de la seguridad, pero una derrota para los intereses de la industria.
Enmiendas y Compromisos
Para asegurar su aprobación, el proyecto de ley experimentó varias enmiendas. La versión final incluía:
- Un umbral de cómputo reducido de 10^26 a 10^26 (sin cambios) pero con una disposición para que el estado lo ajustara.
- Exenciones para modelos utilizados únicamente para investigación o seguridad nacional.
- Un requisito para que los desarrolladores implementaran un "interruptor de apagado" para desactivar modelos en emergencias.
- La creación de la División de IA de Frontera dentro del Departamento de Tecnología.
- Una limitación de responsabilidad a casos de "daño grave", como víctimas masivas o fallas de infraestructura crítica.
Estos cambios fueron diseñados para abordar las preocupaciones de la industria, pero muchos opositores siguieron insatisfechos.
Consecuencias y Desafíos Legales
Tras la firma del gobernador, varios grupos de la industria, incluida la cámara-del-progreso (no en la lista), presentaron demandas impugnando la ley por motivos constitucionales. Argumentaron que violaba la Primera Enmienda al regular el discurso y que estaba anticipada por la ley federal. A principios de 2025, la ley aún no estaba en vigor, a la espera de fallos judiciales.
El debate también influyó en los esfuerzos federales. En 2025, el Congreso de los EE. UU. introdujo varios proyectos de ley de IA, pero ninguno fue aprobado. La ley de California sirvió como modelo para otros estados, con al menos una docena considerando legislación similar.
La controversia destacó la creciente tensión entre la innovación y la seguridad en el campo del Machine learning. También subrayó la dificultad de regular una tecnología que evoluciona más rápido que el proceso legislativo.
Implicaciones Más Amplias
El debate sobre la SB 1047 tuvo implicaciones significativas más allá de California. Provocó discusiones sobre el papel de la Generative AI en la sociedad, los límites del Deep learning y la necesidad de coordinación internacional. También planteó preguntas sobre la responsabilidad de los desarrolladores de Neural network y el potencial de las arquitecturas Transformer (architecture) para ser utilizadas de manera dañina.
El debate también influyó en el desarrollo de prácticas de seguridad dentro de las empresas de IA. Muchas empresas, incluidas OpenAI y Anthropic, anunciaron nuevos marcos de seguridad y esfuerzos de red-teaming, en parte en respuesta a la presión legislativa.
En última instancia, el debate sobre la SB 1047 de California representó un momento decisivo en la gobernanza de la IA. Demostró que los gobiernos están dispuestos a intervenir en el desarrollo de la IA avanzada, pero también reveló las profundas divisiones dentro de la comunidad técnica sobre cómo hacerlo de manera efectiva. El resultado de los desafíos legales y la implementación de la ley darán forma al futuro de la regulación de la IA durante años.