La gobernanza de la IA se refiere a las leyes, regulaciones, estándares e instituciones, tanto nacionales como internacionales, que configuran cómo se desarrolla y despliega la inteligencia artificial. El campo se sitúa en la intersección de seguridad de la IA y ética de la IA, traduciendo las preocupaciones técnicas y sociales sobre la IA, como sesgo algorítmico, alucinación y riesgo existencial a largo plazo de la IA, en reglas vinculantes, compromisos voluntarios y organismos de supervisión. Los enfoques de gobernanza varían ampliamente según la jurisdicción, desde una regulación integral basada en riesgos hasta marcos más ligeros que dependen de la autogobernanza de la industria.
Principales marcos regulatorios
La ley vinculante más integral a mediados de la década de 2020 es el Acta de IA de la UE, adoptada por la Unión Europea en 2024, que clasifica las aplicaciones de IA en niveles de riesgo, desde usos prohibidos como la puntuación social hasta categorías de "alto riesgo" fuertemente reguladas, incluidos la identificación biométrica y las herramientas de contratación, con obligaciones de transparencia más ligeras para sistemas de propósito general como los chatbots de modelos de lenguaje grandes. En los Estados Unidos, la gobernanza ha avanzado más mediante acciones ejecutivas y reglas sectoriales que mediante un estatuto integral único; la orden ejecutiva sobre IA del presidente Biden de octubre de 2023 instruyó a las agencias federales a desarrollar requisitos de prueba de seguridad y reporte, mientras que la administración que siguió se orientó hacia una postura desreguladora que enfatiza la competitividad estadounidense. China ha emitido sus propias reglas vinculantes sobre servicios de IA generativa, que requieren evaluaciones de seguridad y etiquetado de contenido para sistemas orientados al público. Otras jurisdicciones, incluidos el Reino Unido, Japón y Canadá, generalmente han favorecido enfoques basados en orientaciones o sectoriales en lugar de legislación integral.
Coordinación internacional
Los gobiernos también han buscado una coordinación internacional voluntaria fuera de la ley vinculante. La Declaración de Bletchley, firmada por 28 países en la Cumbre de Seguridad de la IA del Reino Unido en noviembre de 2023, marcó la primera declaración multilateral importante que reconoce el potencial de la IA para plantear riesgos graves, incluso catastróficos, y lanzó una serie de cumbres de seguimiento en Corea del Sur y Francia. En paralelo, varios países establecieron institutos dedicados a la seguridad de la IA, incluidos el Instituto de Seguridad de la IA del Reino Unido y el Instituto de Seguridad de la IA de EE. UU., alojado en el NIST, encargados de probar de manera independiente los modelos frontera antes o poco después de su lanzamiento. La Organización para la Cooperación y el Desarrollo Económicos y las Naciones Unidas también han emitido principios de IA no vinculantes que muchos gobiernos referencian al redactar políticas nacionales.
Compromisos de la industria
Junto con la regulación gubernamental, los desarrolladores de IA frontera, incluidos OpenAI, Anthropic y Google DeepMind, han publicado sus propios marcos de gobernanza voluntaria, a menudo llamados políticas de escalado responsable o marcos de preparación, que comprometen a la empresa a evaluaciones de seguridad y mitigaciones específicas una vez que un modelo cruza umbrales de capacidad definidos; estos se discuten más a fondo en el artículo sobre principios de Anthropic. Las empresas también han sometido modelos a pruebas de adversario externas y a evaluación por parte de institutos de seguridad gubernamentales antes de lanzamientos importantes, una práctica que ganó tracción después de la cumbre de Bletchley.
Debates
La gobernanza de la IA sigue siendo disputada en varios ejes. Algunos investigadores y responsables políticos argumentan que la regulación debería centrarse en daños concretos y presentes, como el sesgo y la desinformación, en lugar de riesgos futuros especulativos; otros argumentan lo contrario, que la atención regulatoria debería ponderar más los escenarios catastróficos de baja probabilidad dado el ritmo de los avances en capacidades, una división que hace eco del desacuerdo más amplio sobre cómo interpretar leyes de escalado y habilidades emergentes. Un debate separado concierne a si la regulación debería apuntar a los modelos fundacionales de propósito general en sí mismos o solo a aplicaciones posteriores específicas, un enfoque que el Acta de IA de la UE reconcilia parcialmente al imponer deberes más ligeros centrados en la transparencia para los sistemas de propósito general y deberes más pesados para los usos de alto riesgo. El cabildeo de la industria, las preocupaciones sobre la captura regulatoria y la competencia con jurisdicciones menos reguladas complican aún más los esfuerzos para alcanzar un acuerdo internacional duradero.