La Declaración de la Cumbre de París sobre IA es un acuerdo internacional no vinculante adoptado el 11 de febrero de 2025, al concluir la Cumbre de Acción sobre IA de París. La declaración compromete a las naciones firmantes a un conjunto de principios destinados a fomentar un desarrollo de la inteligencia artificial que sea seguro, protegido, inclusivo y sostenible. Surgió de una cumbre convocada por el presidente francés Emmanuel Macron, que reunió a jefes de Estado, ejecutivos de tecnología e investigadores para abordar el rápido avance de las tecnologías de IA y sus implicaciones globales.
La declaración enfatiza la necesidad de cooperación internacional para cerrar las brechas digitales, promover la innovación y garantizar que los sistemas de IA respeten los derechos humanos y los valores democráticos. Hace un llamado a una mayor coordinación en la investigación sobre seguridad de la IA, al desarrollo de marcos de gobernanza interoperables y a evitar la fragmentación del mercado. Aunque la declaración no es jurídicamente vinculante, representa un esfuerzo diplomático significativo para alinear los enfoques globales hacia la política de IA, particularmente en contraste con iniciativas más centradas en la regulación, como la Ley de IA de la Unión Europea.
Antecedentes y Contexto de la Cumbre
La Cumbre de Acción sobre IA de París se celebró del 10 al 11 de febrero de 2025 en el Grand Palais de París, Francia. Fue la tercera gran cumbre internacional sobre IA, tras la cumbre de Bletchley Park en noviembre de 2023 y la cumbre de Seúl en mayo de 2024. El evento atrajo a aproximadamente 100 países, junto con representantes de las principales empresas tecnológicas, instituciones académicas y organizaciones de la sociedad civil.
El presidente francés Emmanuel Macron posicionó la cumbre como una plataforma para equilibrar la innovación con la regulación, enfatizando la ambición de Europa de convertirse en líder en el desarrollo de IA en lugar de ser meramente un fijador de reglas. La agenda de la cumbre incluyó discusiones sobre seguridad de la IA, impactos en el mercado laboral, aplicaciones de interés público y la huella ambiental de la infraestructura de IA.
Entre los participantes corporativos clave se encontraban ejecutivos de OpenAI, Anthropic, Google DeepMind y Amazon Web Services, junto con empresas y startups europeas. La cumbre también contó con contribuciones de instituciones de investigación como MIT CSAIL, Stanford AI Lab y BAIR (Berkeley AI Research), que presentaron hallazgos sobre seguridad de la IA y metodologías de evaluación.
Principios Clave de la Declaración
La declaración se estructura en torno a varios principios fundamentales que los firmantes acordaron defender. Primero, afirma el compromiso de promover la accesibilidad a la IA y reducir las desigualdades, reconociendo que muchas naciones en desarrollo carecen de la infraestructura y la experiencia para beneficiarse de los avances de la IA. Segundo, insta a que los sistemas de IA se desarrollen de acuerdo con el derecho internacional, incluidas las obligaciones de derechos humanos y las protecciones de propiedad intelectual.
Tercero, la declaración enfatiza la importancia de la seguridad de la IA, instando a continuar la investigación sobre evaluación de riesgos, pruebas de adversarios y la prevención del mal uso. Hace referencia específica a preocupaciones sobre la desinformación, el sesgo algorítmico y el potencial de que los sistemas autónomos causen daño. Cuarto, fomenta la adopción de estándares comunes para la evaluación y el benchmarking de la IA, lo que facilitaría comparaciones y cooperación transfronterizas.
Quinto, la declaración promueve la sostenibilidad, reconociendo el significativo consumo de energía y agua asociado con el entrenamiento de modelos a gran escala. Alienta la inversión en hardware y centros de datos energéticamente eficientes, así como el uso de fuentes de energía renovable. Finalmente, pide una mayor cooperación internacional en la gobernanza de la IA, incluida la creación de foros multi-stakeholder y el intercambio de mejores prácticas.
Firmantes y Posiciones Divergentes
La declaración fue firmada por 61 países, incluidos Francia, Alemania, India, Japón, Corea del Sur, Australia y Canadá. Sin embargo, ausencias notables incluyeron a Estados Unidos y el Reino Unido, ambos declinaron respaldar el documento. El vicepresidente de EE. UU., JD Vance, quien asistió a la cumbre, argumentó que una regulación excesiva podría sofocar la innovación y que el lenguaje de la declaración sobre brechas digitales y sostenibilidad era demasiado prescriptivo.
La decisión del Reino Unido estuvo influenciada por preocupaciones de que la declaración no abordaba adecuadamente las implicaciones de seguridad nacional de la IA. Esta divergencia destacó una creciente brecha transatlántica en la política de IA, con naciones europeas favoreciendo enfoques preventivos mientras que EE. UU. y el Reino Unido priorizaban la ventaja competitiva.
China, representada por el viceprimer ministro Zhang Guoqing, firmó la declaración, marcando un raro momento de consenso entre Pekín y las democracias occidentales sobre la gobernanza de la IA. Sin embargo, los funcionarios chinos enfatizaron sus propias regulaciones nacionales de IA y expresaron reservas sobre ciertas disposiciones relacionadas con flujos de datos y transferencias transfronterizas.
Reacciones y Críticas
La declaración recibió reacciones mixtas de la sociedad civil y observadores académicos. Los partidarios elogiaron su énfasis en la inclusividad y la sostenibilidad, señalando que cumbres anteriores se habían centrado predominantemente en riesgos existenciales. La inclusión de preocupaciones sobre el mercado laboral se consideró un paso adelante para abordar las dimensiones sociales de la adopción de la IA.
Los críticos, sin embargo, argumentaron que la declaración era demasiado vaga para tener un impacto significativo. La ausencia de compromisos vinculantes o mecanismos de aplicación llevó a algunos expertos a descartarla como un gesto simbólico. Melanie Mitchell del Instituto Santa Fe comentó que los principios de la declaración eran "aspiracionales pero sin dientes", careciendo de objetivos concretos o cronogramas.
Los representantes de la industria expresaron un apoyo cauteloso, con Brad Lightcap de OpenAI señalando que el enfoque de la declaración en una gobernanza favorable a la innovación se alineaba con los intereses corporativos. Sin embargo, algunas startups más pequeñas se preocuparon de que el énfasis en la investigación de seguridad pudiera llevar a cargas regulatorias que favorecieran a los grandes actores establecidos con mayores recursos de cumplimiento.
Comparación con Otras Iniciativas de Gobernanza de IA
La declaración de París difiere significativamente de los marcos de gobernanza de IA propuestos por otros organismos. La Ley de IA de la Unión Europea, que entró en vigor en agosto de 2024, establece obligaciones vinculantes basadas en categorías de riesgo, con prohibiciones sobre ciertas aplicaciones de alto riesgo. En contraste, la declaración de París se basa en la cooperación voluntaria y no crea obligaciones legales.
La declaración también diverge de la Declaración de Bletchley, que se centró estrictamente en riesgos de IA fronteriza y amenazas biológicas y cibernéticas. El documento de París amplía el alcance para incluir cuestiones de desarrollo y equidad, reflejando las prioridades del Sur Global. Esta expansión fue impulsada en parte por la participación de naciones africanas y latinoamericanas, que habían criticado cumbres anteriores por excluir sus perspectivas.
Organizaciones internacionales como la OCDE y la UNESCO han desarrollado sus propios principios de IA, y la declaración de París hace referencia explícita a estos marcos existentes, posicionándose como complementaria en lugar de duplicativa. La declaración también pide el establecimiento de un observatorio internacional de IA, aunque los detalles sobre su mandato y financiación siguen sin especificar.
Implementación y Seguimiento
Tras la cumbre, los países firmantes acordaron convocar grupos de trabajo para desarrollar planes de acción concretos. Estos grupos tienen la tarea de abordar áreas específicas como programas de alfabetización en IA, adopción en el sector público y el desarrollo de puntos de referencia de evaluación compartidos. Se ha programado una revisión de progreso para la próxima gran cumbre de IA, que se espera sea organizada por India a finales de 2025.
Francia se ha comprometido a asignar 2.500 millones de euros durante los próximos cinco años para apoyar la investigación y la infraestructura de IA, con una parte dedicada a proyectos de cooperación internacional. Los compromisos del sector privado anunciados en la cumbre incluyeron inversiones en centros de datos europeos por parte de Amazon Web Services y Google Cloud, así como una promesa de OpenAI de abrir una oficina de investigación en París.
Las disposiciones de sostenibilidad de la declaración han impulsado discusiones sobre la estandarización de evaluaciones de impacto ambiental para sistemas de IA. Investigadores de Stanford AI Lab han propuesto métricas para medir la huella de carbono del entrenamiento de modelos, que podrían informar futuros requisitos regulatorios.
Importancia a Largo Plazo
Es probable que la Declaración de la Cumbre de París sobre IA sea recordada como un documento transicional en la evolución de la gobernanza de la IA. Su naturaleza no vinculante refleja la dificultad de lograr consenso entre naciones con intereses y valores divergentes. Sin embargo, su amplia participación y alcance integral establecen un precedente para futuras discusiones.
El énfasis de la declaración en la inclusividad y la sostenibilidad puede influir en las agendas de cumbres posteriores, particularmente a medida que los países en desarrollo buscan un mayor acceso a las tecnologías de IA. La ausencia de EE. UU. y el Reino Unido, sin embargo, plantea preguntas sobre la efectividad de cualquier marco global sin la participación de las principales potencias de IA.
A principios de 2025, la declaración no tiene efecto legal directo, pero sirve como una señal política de intenciones compartidas. Sus principios pueden incorporarse en estrategias nacionales o acuerdos bilaterales con el tiempo. Los próximos años determinarán si la declaración evoluciona hacia un mecanismo de gobernanza más robusto o permanece como una declaración simbólica de aspiraciones comunes.