La Ley de IA de Colorado es una ley de protección al consumidor promulgada en Colorado en 2024 que regula el uso de sistemas de inteligencia artificial de alto riesgo. Es uno de los primeros estatutos integrales a nivel estatal en los Estados Unidos destinados a abordar la discriminación algorítmica en la toma de decisiones de la IA. La ley impone obligaciones tanto a los desarrolladores como a los implementadores de sistemas de IA que toman decisiones consecuentes sobre los consumidores, como aquellas que afectan el empleo, la vivienda, la educación y los servicios financieros.
La Ley define un "sistema de IA de alto riesgo" como cualquier sistema de IA que toma, o es un factor sustancial en la toma de, una decisión consecuente. Las decisiones consecuentes incluyen aquellas con impactos significativos en los consumidores, como la contratación, la promoción, el crédito, los seguros y el acceso a alojamientos públicos. La ley no se aplica a los sistemas de IA utilizados únicamente para ciertos propósitos limitados, como antifraude, ciberseguridad u operaciones comerciales internas, a menos que afecten significativamente a los consumidores.
Antecedentes y Contexto Legislativo
El esfuerzo legislativo de Colorado surgió en medio de una creciente preocupación pública por los impactos sociales de la inteligencia artificial, particularmente en áreas como el aprendizaje automático y la IA generativa. Mientras que la regulación federal de IA permanecía fragmentada, varios estados comenzaron a proponer sus propias reglas. La ley de Colorado se introdujo en la sesión legislativa de 2024 y se aprobó con apoyo bipartidista, reflejando una tendencia más amplia de gobernanza estatal de la IA.
La Ley fue firmada por el Gobernador Jared Polis el 17 de mayo de 2024, convirtiendo a Colorado en el primer estado en promulgar una ley integral contra la discriminación por IA. Está programada para entrar en vigor el 1 de febrero de 2026, dando a las partes interesadas tiempo para cumplir.
Disposiciones Clave
Obligaciones de los Desarrolladores
Los desarrolladores de sistemas de IA de alto riesgo deben tomar medidas razonables para proteger a los consumidores de riesgos conocidos o previsibles de discriminación algorítmica. Se les requiere implementar un marco de gestión de riesgos que incluya:
- Establecer una estructura de gobernanza para supervisar el desarrollo de la IA.
- Documentar los procesos de diseño, entrenamiento y prueba.
- Realizar evaluaciones de impacto para identificar posibles resultados discriminatorios.
- Proporcionar divulgaciones a los implementadores sobre las capacidades y limitaciones del sistema.
Los desarrolladores también deben poner a disposición de los implementadores la información necesaria para cumplir con la ley, incluida una declaración de los usos previstos del sistema y cualquier limitación conocida.
Obligaciones de los Implementadores
Los implementadores - entidades que utilizan sistemas de IA de alto riesgo - también deben implementar un marco de gestión de riesgos. Se les requiere:
- Realizar evaluaciones de impacto antes de implementar un sistema de IA de alto riesgo.
- Notificar a los consumidores cuando se utiliza un sistema de IA en una decisión consecuente.
- Proporcionar a los consumidores una oportunidad de apelar una decisión adversa y solicitar revisión humana.
- Mantener registros del uso del sistema de IA y las evaluaciones de impacto durante al menos tres años.
Los implementadores también deben divulgar a los consumidores la naturaleza del sistema de IA y el proceso de toma de decisiones, incluida la lógica utilizada y el potencial de discriminación.
Cumplimiento y Sanciones
El Fiscal General de Colorado tiene autoridad exclusiva para hacer cumplir la Ley. La ley no crea un derecho de acción privado, lo que significa que los individuos no pueden demandar directamente. En su lugar, el Fiscal General puede investigar violaciones y presentar acciones civiles, buscando medidas cautelares y sanciones civiles de hasta $50,000 por violación, con un máximo de $500,000 para una serie de violaciones.
Evaluaciones de Impacto
Un requisito central de la Ley es la realización de evaluaciones de impacto. Estas evaluaciones deben evaluar el propósito del sistema de IA, los usos previstos y el potencial de discriminación algorítmica. También deben considerar el diseño del sistema, los datos de entrenamiento y los métodos de validación, así como cualquier medida de monitoreo y mitigación posterior a la implementación.
Las evaluaciones de impacto deben actualizarse cuando haya cambios significativos en el sistema de IA o su uso. Los implementadores deben conservar las evaluaciones durante al menos tres años y proporcionarlas al Fiscal General cuando se solicite.
Exenciones y Puertos Seguros
La Ley incluye varias exenciones. Las pequeñas empresas - aquellas con menos de 50 empleados y que no utilizan el sistema de IA para tomar decisiones consecuentes sobre más de 25,000 consumidores anualmente - están exentas de ciertos requisitos, aunque aún deben cumplir con obligaciones básicas de transparencia.
Además, la Ley proporciona un puerto seguro para desarrolladores e implementadores que toman medidas razonables para cumplir con la ley. Si ocurre una violación a pesar de tales medidas, el Fiscal General puede optar por no buscar cumplimiento, siempre que la entidad corrija la violación dentro de los 60 días posteriores al aviso.
Relación con Otras Leyes
La Ley de IA de Colorado no prevalece sobre otras leyes estatales o federales. Está diseñada para complementar los estatutos antidiscriminación existentes, como la Ley de Derechos Civiles y la Ley de Vivienda Justa. La ley establece explícitamente que no crea un derecho de acción privado, pero no impide que los individuos presenten reclamos bajo otras leyes aplicables.
La Ley también incluye una disposición que permite al Fiscal General adoptar reglas para implementar la ley, aunque a principios de 2025, no se han finalizado tales reglas.
Reacciones de la Industria
Los grupos empresariales, incluidas las asociaciones comerciales de tecnología, expresaron reacciones mixtas. Algunos elogiaron la ley por proporcionar claridad y un marco de cumplimiento, mientras que otros la criticaron como excesivamente onerosa y duplicativa de las regulaciones existentes. Los grupos de defensa del consumidor generalmente apoyaron la Ley, viéndola como un paso necesario para proteger a las poblaciones vulnerables de la discriminación impulsada por la IA.
Varias empresas, incluidos los principales desarrolladores de IA como OpenAI y Anthropic, han declarado públicamente su apoyo a la regulación responsable de la IA, aunque también han pedido estándares federales para evitar un mosaico de leyes estatales. El impacto de la Ley en la industria de la IA en general aún está por verse, pero es probable que influya en legislación similar en otros estados.
Cronograma de Implementación
La Ley se firmó en mayo de 2024, con una fecha de entrada en vigor del 1 de febrero de 2026. Este cronograma extendido tenía la intención de dar a los desarrolladores e implementadores tiempo suficiente para ajustar sus prácticas. La oficina del Fiscal General de Colorado ha indicado que emitirá orientación antes de la fecha de entrada en vigor para ayudar a las entidades a comprender sus obligaciones.
Perspectivas Futuras
La Ley de IA de Colorado representa un hito significativo en la gobernanza de la IA. A medida que los modelos de lenguaje grandes y otras tecnologías de IA se integran más en la vida cotidiana, crece la necesidad de marcos legales claros. El enfoque de la Ley en la discriminación algorítmica establece un precedente para otras jurisdicciones, y puede servir como modelo para la legislación federal. Sin embargo, su éxito dependerá de un cumplimiento efectivo y de la disposición de las empresas a adoptar la transparencia y la equidad en el desarrollo de la IA.