La gobernanza de la inteligencia artificial en las Naciones Unidas abarca los esfuerzos de la organización para abordar los desafíos y oportunidades globales que presenta la inteligencia artificial. Estas iniciativas buscan desarrollar normas, políticas y marcos internacionales para garantizar que las tecnologías de IA se desarrollen y utilicen de manera segura, ética y beneficiosa para toda la humanidad. La participación de la ONU refleja el reconocimiento de que el impacto de la IA trasciende las fronteras nacionales, lo que requiere una acción global coordinada.
Central a estos esfuerzos es el Órgano Consultivo de la ONU sobre IA, establecido en 2023. Este órgano reúne a expertos de gobiernos, industria, academia y sociedad civil para proporcionar recomendaciones sobre la gobernanza de la IA. Su trabajo se centra en mapear las brechas de gobernanza existentes, fomentar un diálogo inclusivo y proponer mecanismos para la cooperación internacional. El Órgano Consultivo opera bajo los auspicios del Secretario General de la ONU, quien ha enfatizado la necesidad de un enfoque global para la regulación de la IA.
Contexto Histórico
La participación de la ONU en la gobernanza de la IA se basa en debates anteriores sobre tecnología y derechos humanos. En 2018, el Secretario General de la ONU lanzó el Panel de Alto Nivel sobre Cooperación Digital, que destacó la importancia de la colaboración internacional en tecnologías emergentes. El informe de 2019 del panel, "La era de la interdependencia digital", pidió un compromiso global con la cooperación digital, incluida la IA. Esto llevó al establecimiento de la hoja de ruta de cooperación digital de la ONU en 2020, que delineó pasos para fomentar economías y sociedades digitales inclusivas.
En 2021, la UNESCO adoptó la Recomendación sobre la Ética de la Inteligencia Artificial, el primer instrumento normativo global sobre ética de la IA. Esta recomendación proporciona un marco para que los estados miembros alineen sus políticas de IA con los derechos humanos y los valores democráticos. Los esfuerzos de gobernanza de la IA de la ONU también se cruzan con otros órganos, como la Unión Internacional de Telecomunicaciones (UIT), que alberga la cumbre de IA para el Bien, y el Consejo de Derechos Humanos de la ONU, que ha abordado el impacto de la IA en la privacidad y la libertad de expresión.
Iniciativas e Informes Clave
El Órgano Consultivo de la ONU sobre IA publicó su informe provisional, "Gobernando la IA para la Humanidad", en diciembre de 2023. El informe identifica siete áreas clave de acción: establecer una arquitectura global de gobernanza de la IA, abordar la brecha de la IA, garantizar la seguridad de la IA, promover la rendición de cuentas, fomentar la innovación, fortalecer la cooperación internacional y desarrollar capacidades en países en desarrollo. Propone la creación de una nueva entidad de la ONU, la Oficina Internacional de IA, para coordinar estos esfuerzos, así como un Fondo Global de IA para apoyar el desarrollo de capacidades.
El informe final, emitido en septiembre de 2024, refinó estas recomendaciones y pidió un Marco Global de Gobernanza de la IA. Este marco incluiría principios para el desarrollo de la IA, estándares de transparencia y rendición de cuentas, y mecanismos para monitorear el cumplimiento. El informe también enfatiza la necesidad de incluir voces del Sur Global, que a menudo están subrepresentadas en las discusiones de políticas de IA.
Además, la Asamblea General de la ONU adoptó una resolución sobre gobernanza de la IA en marzo de 2024, copatrocinada por más de 120 estados miembros. La resolución, titulada "Aprovechando las oportunidades de los sistemas de inteligencia artificial seguros, protegidos y confiables para el desarrollo sostenible", alienta a los estados miembros a desarrollar estrategias nacionales de IA y a cooperar en la investigación de seguridad de la IA. También pide a la ONU que facilite el diálogo entre las partes interesadas, incluidos el sector privado y la sociedad civil.
Desafíos y Debates
La gobernanza de la IA en la ONU enfrenta varios desafíos. Un problema importante es la tensión entre innovación y regulación. Algunas partes interesadas, particularmente de la industria tecnológica, argumentan que reglas demasiado estrictas podrían sofocar el progreso y la competitividad. Otros, incluidos muchos grupos de la sociedad civil, abogan por medidas preventivas para evitar posibles daños, como sesgos, vigilancia y armas autónomas.
Otro desafío es la fragmentación de los esfuerzos de gobernanza. Varias agencias de la ONU, como la UNESCO, la UIT y el Consejo de Derechos Humanos de la ONU, tienen sus propias iniciativas relacionadas con la IA, lo que lleva a una posible duplicación e inconsistencia. La propuesta del Órgano Consultivo para una oficina centralizada tiene como objetivo abordar esto, pero aún no se ha implementado completamente.
También hay debate sobre la representatividad del Órgano Consultivo. Si bien incluye miembros de diversas regiones, algunos críticos argumentan que no incluye adecuadamente las perspectivas de naciones en desarrollo más pequeñas o de comunidades afectadas. Garantizar una participación equitativa sigue siendo una preocupación continua.
Perspectivas Futuras
De cara al futuro, la ONU planea convocar una Cumbre Mundial sobre IA, posiblemente en 2025, para generar impulso político hacia un acuerdo global de gobernanza de la IA. La cumbre reuniría a jefes de estado, líderes de la industria y expertos para comprometerse con principios comunes. El Secretario General de la ONU también ha pedido la creación de un consejo asesor científico sobre IA para proporcionar evaluaciones independientes de los riesgos y beneficios de la IA.
A partir de 2025, los esfuerzos de gobernanza de la IA de la ONU aún están evolucionando. El éxito de estas iniciativas dependerá de la disposición de los estados miembros a cooperar y de la capacidad para equilibrar intereses diversos. El papel de la ONU como convocante neutral es crucial, pero también debe demostrar que puede producir resultados concretos, no solo declaraciones.
El desarrollo de modelos de lenguaje grandes y sistemas de IA generativa ha acelerado la urgencia de la gobernanza. Estas tecnologías, desarrolladas por empresas como OpenAI, Anthropic y Google DeepMind, han planteado nuevas preguntas sobre la rendición de cuentas, la desinformación y la disrupción económica. El marco de la ONU tiene como objetivo abordar estos problemas mientras promueve los beneficios de la IA para el desarrollo sostenible, como en la atención médica, la educación y la acción climática.
Conclusión
La gobernanza de la inteligencia artificial en las Naciones Unidas representa un intento significativo de crear una respuesta global a los desafíos de la inteligencia artificial. A través del Órgano Consultivo, las resoluciones y los marcos propuestos, la ONU busca garantizar que la IA sirva a los intereses comunes de la humanidad. Si bien persisten obstáculos, el diálogo continuo y la construcción institucional son pasos esenciales hacia un futuro de IA más coordinado y equitativo.