La Convención de IA del Consejo de Europa, formalmente la Convención Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, es un tratado internacional abierto a la firma el 5 de septiembre de 2024 en Vilna, Lituania. Representa el primer instrumento legalmente vinculante que aborda específicamente la inteligencia artificial, con el objetivo de garantizar que los sistemas de IA se desarrollen y utilicen de manera coherente con los derechos humanos, los procesos democráticos y el estado de derecho. La convención se aplica a las actividades de las autoridades públicas y de los actores privados que actúan en su nombre, con disposiciones para la evaluación y mitigación de riesgos a lo largo del ciclo de vida de los sistemas de IA.
El tratado surgió de un proceso de varios años dentro del Consejo de Europa, que comenzó en 2019 con el establecimiento del Comité Ad Hoc sobre Inteligencia Artificial (CAHAI). Tras el estudio de viabilidad del CAHAI, el Comité sobre Inteligencia Artificial (CAI) recibió el encargo de redactar la convención en 2022. Las negociaciones concluyeron en marzo de 2024, y el texto fue adoptado por el Comité de Ministros el 17 de mayo de 2024. La convención también está abierta a estados no europeos, lo que refleja su ambición global. A principios de 2025, varios países, incluidos el Reino Unido, los Estados Unidos y Japón, han firmado pero aún no han ratificado el tratado.
Antecedentes y Contexto
El rápido avance de las tecnologías de inteligencia artificial, incluidos los modelos de aprendizaje automático y aprendizaje profundo, impulsó esfuerzos internacionales para establecer normas comunes. El Consejo de Europa, con su enfoque de larga data en los derechos humanos, se posicionó como un foro clave para dicha regulación. La convención se basa en instrumentos existentes como el Convenio Europeo de Derechos Humanos y el Convenio para la Protección de las Personas con respecto al Tratamiento Automatizado de Datos de Carácter Personal. A diferencia de la Ley de IA de la Unión Europea, que es una regulación regional, la convención del Consejo de Europa está diseñada como un marco global, abierto a países más allá de Europa.
El proceso de redacción involucró una amplia consulta con la sociedad civil, el mundo académico y la industria. Figuras clave en las negociaciones incluyeron al presidente del CAI y a representantes de estados miembros y observadores. El alcance de la convención cubre todo el ciclo de vida de los sistemas de IA, desde el diseño y desarrollo hasta el despliegue y la desactivación, con un enfoque en las actividades que puedan interferir con los derechos humanos.
Disposiciones Clave
La convención establece principios generales para los sistemas de IA, incluidos la transparencia, la rendición de cuentas y la no discriminación. Requiere que las partes adopten medidas para garantizar que los sistemas de IA se utilicen de manera coherente con la dignidad humana y la autonomía individual. Disposiciones específicas abordan la protección de datos personales, el derecho a la privacidad y el derecho a un recurso efectivo para aquellos afectados adversamente por decisiones de IA. El tratado también enfatiza la importancia de la conciencia pública y la educación sobre la IA.
Uno de los elementos centrales de la convención es el requisito de evaluación y mitigación de riesgos. Las partes deben identificar, evaluar y abordar los riesgos planteados por los sistemas de IA, particularmente aquellos que podrían conducir a discriminación u otras violaciones de derechos humanos. La convención distingue entre aplicaciones de alto y bajo riesgo, con obligaciones más estrictas para las primeras. También exige que los sistemas de IA estén sujetos a supervisión humana, garantizando que los humanos puedan intervenir en los procesos de toma de decisiones cuando sea necesario.
Firmantes y Proceso de Ratificación
A principios de 2025, la convención ha sido firmada por más de 20 países, incluidos el Reino Unido, los Estados Unidos, Japón y varias naciones europeas. La ceremonia de firma tuvo lugar en Vilna, con representantes de estos países presentes. La ratificación requiere aprobación nacional en cada estado firmante; la convención entrará en vigor tres meses después de la quinta ratificación, incluidos al menos tres estados miembros del Consejo de Europa. Hasta la fecha de corte del conocimiento, ningún país ha ratificado aún, pero el proceso está en curso en varias jurisdicciones.
La naturaleza abierta de la convención permite que estados no miembros se adhieran, lo que se ha visto como una forma de promover estándares globales. Por ejemplo, los Estados Unidos, que no es miembro del Consejo de Europa, han firmado el tratado, señalando su disposición a alinearse con las normas internacionales sobre gobernanza de la IA. Sin embargo, la ratificación no está garantizada, y la efectividad del tratado dependerá del compromiso de los firmantes para implementar sus disposiciones.
Comparación con la Ley de IA de la UE
La Convención de IA del Consejo de Europa y la Ley de IA de la UE son instrumentos complementarios pero distintos. La Ley de IA de la UE es una regulación integral que se aplica a todos los sistemas de IA colocados en el mercado de la UE, con una clasificación basada en riesgos y requisitos vinculantes para proveedores y usuarios. En contraste, la convención del Consejo de Europa es un tratado marco que establece principios y obligaciones generales, dejando los detalles de implementación a la legislación nacional. La convención es menos prescriptiva, permitiendo a las partes flexibilidad en cómo logran sus objetivos.
Ambos instrumentos enfatizan los derechos humanos y la seguridad, pero la convención tiene un alcance geográfico más amplio, influyendo potencialmente en la gobernanza de la IA más allá de Europa. Se espera que la Ley de IA de la UE, aprobada por el Consejo Europeo en mayo de 2024, sirva como modelo para muchos países, pero el tratado del Consejo de Europa ofrece una vía alternativa o complementaria para estados no pertenecientes a la UE. La relación entre ambos no es jerárquica; más bien, operan en paralelo, con la Ley de IA de la UE aplicándose a los estados miembros de la UE y la convención proporcionando una base global.
Implementación y Cumplimiento
La convención requiere que cada parte establezca o designe una autoridad supervisora para vigilar el cumplimiento. Estas autoridades deben tener el poder de investigar, imponer sanciones y proporcionar remedios por violaciones. El tratado también fomenta la cooperación internacional, incluida la asistencia mutua y el intercambio de información entre autoridades. Sin embargo, los mecanismos de cumplimiento son relativamente débiles en comparación con la Ley de IA de la UE, que incluye multas de hasta el 7% de la facturación global para ciertas violaciones.
La implementación requerirá cambios legales e institucionales significativos en muchos países. Por ejemplo, las partes deben asegurar que sus leyes nacionales se alineen con los principios de la convención, lo que puede implicar enmendar las leyes existentes de protección de datos y antidiscriminación. La convención también pide el desarrollo de estándares y directrices, posiblemente en colaboración con otros organismos internacionales como la OCDE y la UNESCO.
Reacciones y Críticas
La convención ha recibido reacciones mixtas. Los partidarios, incluidas muchas organizaciones de derechos humanos, la elogian como un paso histórico hacia normas internacionales vinculantes para la IA. Argumentan que proporciona un contrapeso necesario al rápido despliegue de sistemas de IA por parte de empresas como OpenAI, Anthropic y Google DeepMind, que están desarrollando modelos de lenguaje grandes cada vez más potentes. Los críticos, sin embargo, sostienen que la convención es demasiado vaga y carece de dientes de cumplimiento. Algunos grupos de la sociedad civil han pedido disposiciones más fuertes sobre prohibiciones de ciertas aplicaciones de IA, como los sistemas de puntuación social, y reglas de responsabilidad más claras.
Los representantes de la industria han expresado preocupaciones sobre el potencial de fragmentación regulatoria, ya que diferentes países pueden interpretar la convención de manera distinta. También les preocupa la carga de cumplimiento, particularmente para las pequeñas y medianas empresas. No obstante, muchas empresas tecnológicas han apoyado públicamente los objetivos de la convención, viéndola como una forma de generar confianza pública en la IA.
Perspectivas Futuras
A principios de 2025, la convención está en la fase de ratificación. Se espera que su entrada en vigor ocurra dentro de los próximos años, dependiendo de la velocidad de las ratificaciones. El impacto del tratado probablemente será significativo, ya que establece un precedente para la gobernanza internacional de la IA. También puede influir en el desarrollo de otros marcos regionales, como los de África y América Latina. El éxito de la convención dependerá de cuán efectivamente las partes implementen sus principios y de si puede adaptarse al panorama cambiante de la IA, incluidos los avances en IA generativa y sistemas autónomos.
El Consejo de Europa planea celebrar reuniones regulares de las partes para revisar la implementación y compartir mejores prácticas. También existe la posibilidad de protocolos adicionales para abordar cuestiones específicas, como la IA en el ámbito militar o en la atención médica. La convención es un instrumento vivo, diseñado para evolucionar con los desarrollos tecnológicos.
Conclusión
La Convención de IA del Consejo de Europa marca un hito en la gobernanza global de la inteligencia artificial. Al establecer obligaciones vinculantes para los estados de proteger los derechos humanos en el contexto de la IA, establece un nuevo estándar para la cooperación internacional. Si bien su efectividad aún está por verse, la convención representa un esfuerzo colectivo para garantizar que la IA sirva a la humanidad en lugar de socavarla. A medida que los países avanzan hacia la ratificación, es probable que los principios del tratado den forma a las leyes nacionales y las prácticas corporativas en todo el mundo, contribuyendo a un ecosistema de IA más responsable y centrado en el ser humano.