Función
Los mensajes de sistema son un conjunto de instrucciones que se le dan a un modelo de IA conversacional antes de la entrada del usuario, estableciendo la personalidad del modelo, las reglas de comportamiento y el marco de la tarea para el resto de la interacción. A diferencia de un mensaje de usuario ordinario, un mensaje de sistema suele ser definido por el desarrollador de la aplicación y no por el usuario final, y normalmente no se muestra en la conversación visible.
Función
Los mensajes de sistema se utilizan para configurar cómo debe comportarse un asistente durante toda una sesión: qué tono adoptar, qué temas evitar, qué formato de salida seguir y qué personalidad, si la hay, presentar. Los productos construidos sobre Large language models, incluidos ChatGPT y Claude (AI model family), también exponen formas de este mecanismo a los usuarios finales, permitiendo "instrucciones personalizadas" que persisten en las conversaciones sin necesidad de volver a escribirlas cada vez. Los desarrolladores que crean aplicaciones sobre una AI agent o una API de chatbot dependen en gran medida de los mensajes de sistema para diferenciar el comportamiento de su producto del comportamiento predeterminado del modelo subyacente, incluso cuando varios productos se basan en el mismo modelo base.
Relación con el entrenamiento de seguridad
Los mensajes de sistema se sitúan junto al comportamiento de seguridad inculcado durante el proceso de entrenamiento del modelo, pero son distintos de él, como el que se logra mediante RLHF o Constitutional AI. Un mensaje de sistema bien diseñado puede añadir restricciones adicionales sobre los valores predeterminados entrenados del modelo, pero no puede anular por completo el comportamiento que el modelo fue entrenado para rechazar. Tampoco ocurre lo contrario siempre: un mensaje de sistema mal diseñado puede debilitar inadvertidamente la adherencia del modelo a su comportamiento de seguridad entrenado. Debido a esta interacción, los proveedores publican orientación sobre cómo redactar mensajes de sistema que refuercen, en lugar de entrar en conflicto, con el entrenamiento del modelo.
Implicaciones de seguridad
Dado que los mensajes de sistema a menudo codifican instrucciones propietarias de un producto, extraerlos o anularlos se ha convertido en un objetivo común para usuarios adversarios. Un Jailbreak (AI) puede intentar convencer al modelo de que ignore por completo su mensaje de sistema, mientras que los ataques de Prompt injection insertan instrucciones en el contenido externo que el modelo procesa, con el objetivo de anular la autoridad del mensaje de sistema con contenido que nunca tuvo la intención de portar instrucciones. Con frecuencia, se implementan controles de moderación en capas junto con los mensajes de sistema, específicamente para detectar los casos en los que las instrucciones basadas en el mensaje no se cumplen.
Uso en sistemas de agentes
A medida que los modelos de lenguaje se han integrado en sistemas de agentes capaces de usar herramientas y realizar acciones en varios pasos, los mensajes de sistema han crecido en longitud y estructura, especificando a menudo las herramientas disponibles, los esquemas de salida y los procedimientos de decisión explícitos, en lugar de simples pautas de comportamiento. Este cambio ha hecho que el diseño de mensajes de sistema sea una parte importante de la creación de sistemas de IA de producción fiables, distinta de la práctica más exploratoria del Prompt engineering por parte del usuario final.