La gobernanza de la IA se refiere a las leyes, regulaciones, estándares e instituciones, tanto nacionales como internacionales, que configuran la forma en que se desarrolla y despliega la inteligencia artificial. Este campo se sitúa en la intersección de la [[seguridad de la IA]] y la [[ética de la IA]], traduciendo las preocupaciones técnicas y sociales sobre la IA, como el [[sesgo algorítmico]], la [[alucinación]] y el [[riesgo existencial a largo plazo de la IA]], en reglas vinculantes, compromisos voluntarios y organismos de supervisión. Los enfoques de gobernanza varían considerablemente según la jurisdicción, desde una regulación integral basada en el riesgo hasta marcos más flexibles que dependen de la autorregulación de la industria.
Marcos regulatorios principales
La ley vinculante más completa a mediados de la década de 2020 es la [[Ley de IA de la UE]], adoptada por la Unión Europea en 2024, que clasifica las aplicaciones de IA en niveles de riesgo, desde usos prohibidos como la puntuación social hasta categorías de "alto riesgo" fuertemente reguladas, como la identificación biométrica y las herramientas de contratación, con obligaciones de transparencia más ligeras para sistemas de propósito general como los [[chatbots de modelos de lenguaje de gran tamaño]]. En Estados Unidos, la gobernanza ha avanzado más a través de acciones ejecutivas y reglas sectoriales que mediante un estatuto integral único; la orden ejecutiva sobre IA del presidente Biden de octubre de 2023 instruyó a las agencias federales a desarrollar requisitos de prueba de seguridad y presentación de informes, mientras que la administración posterior se inclinó hacia un enfoque desregulador que enfatiza la competitividad estadounidense. China ha emitido sus propias reglas vinculantes sobre los servicios de IA generativa, exigiendo evaluaciones de seguridad y etiquetado de contenido para los sistemas dirigidos al público. Otras jurisdicciones, incluido el Reino Unido, Japón y Canadá, generalmente han favorecido enfoques basados en guías o específicos de cada sector en lugar de una legislación integral.
Coordinación internacional
Los gobiernos también han buscado la coordinación internacional voluntaria más allá de los tratados vinculantes. La [[Declaración de Bletchley]], firmada por 28 países en la Cumbre de Seguridad de la IA del Reino Unido en noviembre de 2023, fue la primera declaración multilateral importante que reconoce el potencial de la IA para plantear riesgos graves, incluso catastróficos, y dio lugar a una serie de cumbres de seguimiento en Corea del Sur y Francia. En paralelo, varios países establecieron institutos dedicados a la seguridad de la IA, incluido el Instituto de Seguridad de la IA del Reino Unido y el Instituto de Seguridad de la IA de Estados Unidos, alojado en el NIST, con la tarea de probar de forma independiente los modelos frontera antes o poco después de su lanzamiento. La Organización para la Cooperación y el Desarrollo Económicos y las Naciones Unidas también han emitido principios de IA no vinculantes que muchos gobiernos utilizan como referencia al redactar sus políticas nacionales.
Compromisos de la industria
Junto a la regulación gubernamental, los desarrolladores frontera de IA, incluidas [[OpenAI]], [[Anthropic]] y [[Google DeepMind]], han publicado sus propios marcos de gobernanza voluntaria, a menudo denominados políticas de escalado responsable o marcos de preparación, que comprometen a la empresa a evaluaciones de seguridad y medidas de mitigación específicas una vez que un modelo supera ciertos umbrales de capacidad definidos; estos se analizan con más detalle en el artículo sobre [[principios de Anthropic]]. Las empresas también han presentado sus modelos a [[pruebas de red teaming]] externas y a evaluaciones por parte de los institutos gubernamentales de seguridad antes de los lanzamientos importantes, una práctica que ganó terreno después de la cumbre de Bletchley.
Debates
La gobernanza de la IA sigue siendo objeto de controversia en varios ejes. Algunos investigadores y responsables políticos sostienen que la regulación debería centrarse en daños concretos y presentes, como el sesgo y la desinformación, en lugar de en riesgos futuros especulativos; otros argumentan lo contrario, que la atención regulatoria debería ponderar más los escenarios de baja probabilidad pero catastróficos, dado el ritmo de los avances en capacidades, una división que refleja el desacuerdo más amplio sobre cómo interpretar las [[leyes de escalado]] y las [[capacidades emergentes]]. Un debate separado se refiere a si la regulación debería apuntar a los modelos fundacionales de propósito general en sí mismos o solo a las aplicaciones posteriores específicas, un enfoque que la Ley de IA de la UE reconcilia parcialmente al imponer obligaciones más ligeras centradas en la transparencia a los sistemas de propósito general y deberes más pesados a los usos de alto riesgo. El cabildeo de la industria, las preocupaciones sobre la captura regulatoria y la competencia con jurisdicciones menos reguladas complican aún más los esfuerzos por alcanzar un acuerdo internacional duradero.