El marcado de agua en IA se refiere a técnicas para incrustar una señal detectable en contenido generado por un sistema de IA, como texto, imágenes, audio o video, de modo que el contenido pueda identificarse posteriormente como generado por máquina. A diferencia de una marca de agua visible superpuesta en una imagen, la mayoría de los esquemas de marcado de agua en IA están diseñados para ser imperceptibles para los humanos, aunque siguen siendo estadísticamente detectables mediante un algoritmo de coincidencia y, en algunos diseños, robustos ante ediciones comunes como recortes, compresión o paráfrasis.
El interés en el marcado de agua en IA creció bruscamente junto con el auge más amplio de la IA generativa a partir de 2022, impulsado por preocupaciones sobre el contenido sintético de baja calidad que inundaba internet, los deepfakes relacionados con elecciones y la integridad académica y periodística, y fue mencionado en debates políticos, incluidos los compromisos voluntarios de IA de la Casa Blanca de 2023 y los requisitos de transparencia para contenido sintético del Acta de IA de la UE.
Técnicas
Para el texto, los esquemas de marcado de agua suelen funcionar sesgando sutilmente el muestreo del siguiente token de un modelo de lenguaje grande, por ejemplo, favoreciendo un subconjunto seleccionado pseudoaleatoriamente de tokens igualmente probables sobre otro en cada paso de generación, en un patrón invisible para el lector pero estadísticamente detectable con la misma clave pseudoaleatoria utilizada durante la generación. Para imágenes y video generados por sistemas como modelos texto a imagen y texto a video, el SynthID de Google DeepMind, lanzado en 2023, incrusta una señal directamente en los valores de píxeles durante o después de la generación que sobrevive a transformaciones comunes como el redimensionamiento o la compresión, sin alterar perceptiblemente la imagen. El marcado de agua en audio incrusta de manera similar señales en rangos de frecuencia fuera de la percepción humana típica.
Limitaciones
El marcado de agua enfrenta desafíos técnicos y de adopción significativos. Las marcas de agua en texto a menudo pueden eliminarse mediante paráfrasis, traducción o pidiendo a otro modelo que reescriba el contenido, y la detección puede producir falsos positivos en texto escrito por humanos que coincide casualmente con el patrón estadístico. Las marcas de agua solo son útiles si el sistema generador elige aplicarlas, lo que significa que los modelos de código abierto o modificados pueden simplemente omitir el paso de marcado de agua, y ningún esquema ha demostrado robustez contra un adversario decidido a eliminarla específicamente. Hasta 2025, la adopción del marcado de agua seguía siendo inconsistente entre los proveedores, con algunos, incluidos Google y Meta, implementándolo en sus propios generadores de imágenes y video, mientras que estándares interoperables amplios en toda la industria aún estaban emergiendo.
Enfoques relacionados
El marcado de agua en IA se discute a menudo junto con, y a veces se confunde con, los estándares de procedencia del contenido, como el marco C2PA, que en su lugar adjunta metadatos firmados criptográficamente que describen el historial de edición de una imagen, un enfoque complementario en lugar de competitivo, ya que los metadatos pueden eliminarse al volver a guardar un archivo de una manera que una marca de agua robusta a nivel de píxeles puede sobrevivir. A medida que los modelos se entrenan cada vez más en parte con datos extraídos de la web, distinguir el dato de entrenamiento genuino del resultado sintético de IA también se ha vuelto importante para prevenir la degradación de modelos futuros, una motivación adicional para los esfuerzos de procedencia y marcado de agua más allá de las preocupaciones por la desinformación.