Los guardarraíles, en los sistemas de IA, son mecanismos de seguridad y control que se colocan alrededor de un modelo, en la entrada, la salida, o ambas, para restringir su comportamiento más allá de lo que se logra mediante el propio entrenamiento del modelo. Mientras que las técnicas de alineación como el RLHF moldean el comportamiento de un modelo durante el entrenamiento, los guardarraíles operan en el momento del despliegue: filtran o reescriben las entradas de los usuarios, examinan o bloquean las salidas generadas y aplican políticas específicas de la aplicación que pueden ser más estrictas, más actuales o más auditables que lo que el entrenamiento por sí solo puede garantizar.
Los guardarraíles se convirtieron en una parte estándar de los sistemas de IA de producción a medida que los chatbots y los agentes de IA pasaron de demostraciones de investigación a productos orientados al cliente a partir de 2022, impulsados tanto por fallos de alto perfil, como chatbots que producían resultados ofensivos, falsos o legalmente arriesgados, como por la necesidad práctica de mantener un modelo de propósito general dentro de los límites de un caso de uso empresarial específico.
Tipos de guardarraíles
Las implementaciones de guardarraíles varían ampliamente, pero generalmente se dividen en algunas categorías. Los guardarraíles de entrada examinan las indicaciones entrantes en busca de contenido no permitido, intentos de jailbreak o ataques de inyección de indicaciones antes de que lleguen al modelo. Los guardarraíles de salida verifican el texto generado en busca de violaciones de políticas, información de identificación personal, lenguaje tóxico o afirmaciones factuales que deberían desencadenar una cita o un descargo de responsabilidad, a veces utilizando un modelo separado y más pequeño como clasificador o juez. Los guardarraíles temáticos restringen a un asistente desplegado a un ámbito definido, por ejemplo, impidiendo que un bot de servicio al cliente responda preguntas no relacionadas u ofrezca consejos médicos o legales. Los guardarraíles estructurales limitan el formato de salida, como forzar JSON válido para un sistema descendente.
Enfoques de implementación
Los guardarraíles pueden implementarse como modelos clasificadores separados, como Llama Guard de Meta y el endpoint de moderación de OpenAI, como filtros basados en reglas que utilizan listas de palabras clave o expresiones regulares, o como una segunda llamada al mismo modelo o a otro modelo grande que se le pide que critique o apruebe la salida del primer modelo antes de mostrarla a un usuario. Marcos de trabajo de código abierto como NeMo Guardrails de NVIDIA y Guardrails AI surgieron para estandarizar este patrón, permitiendo a los desarrolladores definir temas permitidos, estructura de salida requerida y comportamiento de respaldo de manera declarativa en lugar de codificar manualmente cada verificación.
Limitaciones y críticas
Se reconoce ampliamente que los guardarraíles son imperfectos. Debido a que típicamente operan como capas de coincidencia de patrones o clasificación alrededor de un modelo en lugar de cambiar sus capacidades subyacentes, pueden ser derrotados por intentos de jailbreak suficientemente creativos, y los guardarraíles excesivamente agresivos pueden producir falsos positivos que bloquean solicitudes legítimas, frustrando a los usuarios y, argumentan los críticos, a veces haciendo que los sistemas sean menos útiles sin hacerlos significativamente más seguros. Los guardarraíles generalmente se consideran un complemento, no un sustituto, del trabajo de seguridad en el momento del entrenamiento, como el IA Constitucional y la práctica más amplia de seguridad de la IA, ya que un atacante decidido que pueda acceder directamente al modelo subyacente elude los guardarraíles por completo.
Impacto
Para mediados de la década de 2020, los guardarraíles se habían convertido en un elemento estándar en las listas de verificación de despliegue de IA empresarial y en una categoría de producto distinta, con proveedores que ofrecen plataformas de guardarraíles como middleware entre aplicaciones y modelos fundacionales subyacentes. Marcos regulatorios como el Acta de IA de la UE hacen referencia cada vez más al monitoreo de salidas y a los controles de contenido como requisitos de cumplimiento, integrando aún más los guardarraíles como infraestructura esperada para los sistemas de IA desplegados.