A marca d'água de IA refere-se a técnicas para incorporar um sinal detectável em conteúdo gerado por um sistema de IA, como texto, imagens, áudio ou vídeo, para que o conteúdo possa posteriormente ser identificado como gerado por máquina. Ao contrário de uma marca d'água visível sobreposta a uma imagem, a maioria dos esquemas de marca d'água de IA é projetada para ser imperceptível aos humanos, permanecendo estatisticamente detectável por um algoritmo de correspondência e, em alguns designs, robusta a edições comuns, como corte, compressão ou paráfrase.
O interesse em marca d'água de IA cresceu acentuadamente junto com o boom de IA generativa mais amplo a partir de 2022, impulsionado por preocupações com conteúdo sintético de baixa qualidade inundando a internet, deepfakes relacionados a eleições e integridade acadêmica e jornalística, e foi referenciado em discussões políticas, incluindo os compromissos voluntários de IA da Casa Branca de 2023 e os requisitos de transparência para conteúdo sintético do Ato de IA da UE.
Técnicas
Para texto, esquemas de marca d'água tipicamente funcionam ao enviesar sutilmente a amostragem do próximo token de um modelo de linguagem grande, por exemplo, favorecendo um subconjunto pseudoaleatoriamente selecionado de tokens igualmente prováveis em detrimento de outro a cada etapa de geração, em um padrão invisível ao leitor, mas estatisticamente detectável dada a mesma chave pseudoaleatória usada durante a geração. Para imagens e vídeos gerados por sistemas como modelos texto-para-imagem e texto-para-vídeo, o SynthID do Google DeepMind, lançado em 2023, incorpora um sinal diretamente nos valores de pixel durante ou após a geração que sobrevive a transformações comuns, como redimensionamento ou compressão, sem alterar perceptivelmente a imagem. A marca d'água de áudio similarmente incorpora sinais em faixas de frequência fora da percepção humana típica.
Limitações
A marca d'água enfrenta desafios técnicos e de adoção significativos. Marcas d'água de texto podem frequentemente ser removidas por meio de paráfrase, tradução ou pedindo a outro modelo que reescreva o conteúdo, e a detecção pode produzir falsos positivos em texto escrito por humanos que por acaso corresponda ao padrão estatístico. Marcas d'água só são úteis se o sistema gerador escolher aplicá-las, o que significa que modelos de código aberto ou modificados podem simplesmente omitir a etapa de marca d'água, e nenhum esquema demonstrou robustez contra um adversário determinado especificamente tentando removê-la. Em 2025, a adoção de marca d'água permaneceu inconsistente entre provedores, com alguns, incluindo Google e Meta, implantando-a em seus próprios geradores de imagem e vídeo, enquanto padrões interoperáveis amplos na indústria ainda estavam emergindo.
Abordagens relacionadas
A marca d'água de IA é frequentemente discutida junto com, e às vezes confundida com, padrões de proveniência de conteúdo, como a estrutura C2PA, que em vez disso anexa metadados criptograficamente assinados descrevendo o histórico de edição de uma imagem, uma abordagem complementar em vez de concorrente, já que os metadados podem ser removidos ao salvar novamente um arquivo de uma forma que uma marca d'água robusta em nível de pixel pode sobreviver. À medida que os modelos são cada vez mais treinados em parte com dados coletados da web, distinguir dados de treinamento genuínos de saída de IA sintética também se tornou importante para prevenir a degradação de modelos futuros, uma motivação adicional para esforços de proveniência e marca d'água além das preocupações com desinformação.