Las políticas de escalado responsable (RSP, por sus siglas en inglés) son marcos voluntarios publicados por los desarrolladores de IA que vinculan los aumentos en la capacidad desplegada de un modelo con los correspondientes aumentos en las medidas de seguridad, protección y evaluación que se le aplican, con el objetivo explícito de prevenir daños catastróficos a medida que los modelos se acercan a umbrales de capacidad peligrosos. Anthropic publicó la primera política de este tipo en septiembre de 2023, definiendo una serie de "Niveles de Seguridad de la IA" (ASL, por sus siglas en inglés) vagamente modelados a partir de los estándares de contención de la bioseguridad, y el enfoque fue adoptado posteriormente de forma similar, bajo diferentes nombres, por otros laboratorios.
La idea central es hacer que los compromisos de seguridad sean concretos y auditables en lugar de puramente aspiracionales: un laboratorio se compromete de antemano a evaluaciones de capacidad específicas y declara que si un modelo supera un umbral definido, por ejemplo, ayudando de manera significativa a un novato a intentar crear armas biológicas, no lo desplegará ni continuará su entrenamiento hasta que existan las salvaguardias correspondientes.
Orígenes y marcos comparables
La RSP de Anthropic estuvo influenciada por investigaciones anteriores sobre seguridad de la IA centradas en medir y pronosticar capacidades peligrosas, y por el debate interno sobre cómo operacionalizar las preocupaciones sobre alineación en decisiones concretas de despliegue. OpenAI publicó un "Marco de Preparación" comparable en diciembre de 2023, que rastrea categorías de riesgo como las amenazas cibernéticas y biológicas a través de un modelo de cuadro de mando. Google DeepMind siguió con un "Marco de Seguridad Fronteriza" en 2024, y varios otros desarrolladores de modelos frontera hicieron compromisos voluntarios similares en torno a la Cumbre de Seguridad de la IA en Bletchley Park de 2023.
Contenido y mecánica
Los elementos típicos incluyen umbrales de capacidad vinculados a evaluaciones específicas, medidas de seguridad y protección requeridas en cada nivel, como equipos rojos y acceso restringido a los pesos del modelo, y compromisos de pausar el escalado si las medidas no se pueden preparar a tiempo. El CEO de Anthropic, Dario Amodei, ha planteado la política como una apuesta a que competir por construir una IA poderosa de forma segura es preferible a no competir en absoluto, dado que otros actores continuarán con el desarrollo de todos modos. Las políticas son autopublicadas y autoaplicadas en lugar de auditadas externamente o legalmente vinculantes, una característica estructural compartida en toda la industria a mediados de la década de 2020.
Críticas
Los críticos, incluidos algunos investigadores de gobernanza de la IA, argumentan que la autorregulación voluntaria de la industria carece de mecanismos de aplicación, que los umbrales pueden ser redefinidos por las mismas empresas obligadas a cumplirlos, y que la presión competitiva crea un incentivo para interpretar las evaluaciones ambiguas de manera generosa. Los partidarios responden que las RSP al menos establecen un rastro público y una norma industrial que la regulación vinculante, como la Ley de IA de la UE, puede citar o formalizar posteriormente, y que representan uno de los pocos artefactos concretos que conectan las preocupaciones abstractas sobre el riesgo existencial de la IA con las decisiones diarias de despliegue.