A estilometria adversarial é a prática de alterar o estilo de escrita para reduzir o potencial da estilometria de descobrir a identidade do autor ou suas características. Esta tarefa também é conhecida como ofuscação de autoria ou anonimização de autoria. A estilometria representa um desafio significativo para a privacidade pela sua capacidade de desmascarar autores anônimos ou de vincular pseudônimos a outras identidades de um autor, o que, por exemplo, cria dificultades para denunciantes, ativistas e também para embusteros e fraudadores. Espera-se que o risco para a privacidade cresça à medida que as técnicas de aprendizado automático e os corpora de texto se desenvolvem.
Toda estilometria adversarial compartilha a ideia central de parafrasear fielmente o texto de origem para que o significado permaneça inalterado, mas os sinais estilísticos sejam obscurecidos. Tal paráfrase fiel é um exemplo adversarial para um classificador estilométrico. Existem várias abordagens amplas para isso, com algumas superposições: imitação, que substituye o estilo próprio do autor pelo de outro; tradução, que aplica tradução automática com a esperança de que isso elimine o estilo característico do texto de origem; e ofuscação, que modifica deliberadamente o estilo de um texto para que não se assemelhe ao do próprio autor.
Obscurecer o estilo manualmente é possível, mas laborioso; em algumas circunstancias, é preferible ou necessário. Ferramentas automatizadas, sejam semiautomáticas ou totalmente automáticas, poderiam auxiliar um autor. A melhor maneira de realizar a tarefa e o design de tais ferramentas é uma questão de pesquisa aberta. Embora algumas abordagens tenham demonstrado ser capaces de derrotar análises estilométricas particulares, especialmente aquelas que não consideran o potencial de adversarialidade, estabelecer segurança frente a análises desconocidas é um problema. Garantir a fidelidade da paráfrase é um desafio crítico para as ferramentas automatizadas.
Não é certo se a prática da estilometria adversarial é detectável em si mesma. Alguns estudos descobriram que métodos particulares produjeron señales no texto de saída, pero um estilometrista que não está seguro de quais métodos podem ter sido usados pode não ser capaz de detectarlos de forma confiable.
História
Rao & Rohatgi (2000), um trabalho inicial em estilometria adversarial, identificó a tradução automática como uma possibilidade, pero notó que a qualidade dos tradutores disponíveis na época apresentaba desafíos severos. Kacmarcik & Gamon (2006) é outro trabalho inicial. Brennan, Afroz & Greenstadt (2012) realizaron a primeira avaliação de métodos estilométricos adversariales em textos reais.
Brennan & Greenstadt (2009) introdujeron o primeiro corpus de textos escritos de forma adversarial especificamente para evaluar métodos estilométricos; outros corpora incluyen o Concurso Internacional de Imitação de Hemingway, o concurso Faux Faulkner, e o blog farsante A Gay Girl in Damascus.
Motivações
Rao & Rohatgi (2000) sugeren que documentos curtos e não atribuidos (isto é, posts anónimos) não estão em risco de identificação estilométrica, pero autores pseudónimos que não praticaron estilometría adversarial ao producir corpus de milhares de palavras podem ser vulnerables. Narayanan et al. (2012) intentaron desanonimización em grande escala de 100.000 autores de blogs com resultados mixtos: as identificações foram significativamente melhores que o acaso, pero só coincidieron com o blog e o autor um quinto das vezes; a identificação melhoró com o número de posts escritos pelo autor no corpus. Mesmo se um autor não é identificado, algumas de suas características podem ainda ser deducidas estilométricamente, ou a estilometría pode estrechar o conjunto de anonimato de autores potenciais o suficiente para que outras informações completem a identificação. Detectar características do autor (por exemplo, género ou idade) é frequentemente mais simples que identificar um autor de um conjunto grande, possivelmente aberto, de candidatos.
As técnicas modernas de aprendizado automático oferecen ferramentas poderosas para identificação; o desenvolvimento adicional de corpora e técnicas estilométricas computacionais provavelmente levantará más questões de privacidade. Gröndahl & Asokan (2020a) dicen que a validade geral da hipótese subjacente à estilometría - que os autores têm 'impressões digitais de estilo' invariantes e independentes do conteúdo - é incerta, pero "o ataque de desanonimización é uma preocupação real de privacidade".
Aquellos interesados em practicar estilometría adversarial e engaño estilístico incluyen denunciantes que evitan represalias; jornalistas e ativistas; perpetradores de fraudes e farsas; autores de resenhas falsas; falsificadores literarios; criminosos que disfrazan sua identidade de investigadores; e, em geral, qualquer pessoa com desejo de anonimato ou pseudonimato. Autores, ou agentes que atuam em nome de autores, também podem tentar eliminar pistas estilísticas sobre características do autor (por exemplo, raza ou género) para que o conhecimento dessas características não possa ser usado para discriminação (por exemplo, através de viés algorítmico). Outro uso possível para a estilometría adversarial é disfrazar texto generado automaticamente como escrito por humanos.
Métodos
Com a imitação, o autor tenta enganar a estilometría igualando seu estilo ao de outro autor. Uma imitação incompleta, onde algumas características únicas do verdadeiro autor aparecen junto às do autor imitado, pode ser um sinal detectável do uso de estilometría adversarial. A imitação pode ser realizada automaticamente com sistemas de transferência de estilo, embora isso tipicamente requiera um corpus grande no estilo de destino para que o sistema aprenda.
Outra abordagem é a tradução, que emprega tradução automática de um texto de origem para eliminar o estilo característico, frequentemente através de múltiples tradutores em sequência para producir uma tradução de ida e volta. Tal tradução encadenada pode levar a que os textos sejam significativamente alterados, até o ponto de incomprensibilidade; ferramentas de tradução melhoradas reducen este risco. Textos com estruturas más simples podem ser más fáceis de traduzir automaticamente sem perder o significado original. A tradução automática se difumina com a imitação estilística direta ou a ofuscação lograda através da transferência de estilo automatizada, que pode ser vista como uma "tradução" com o mesmo idioma como entrada e saída. Com ferramentas de tradução de baixa qualidade, um autor pode ser obrigado a corregir manualmente erros de tradução importantes enquanto evita o perigo de reintroducir características estilísticas. Wang, Juola & Riddell (2022) descobriron que erros grosseiros introducidos por Google Translate eram raros, pero más comuns com várias traduções intermediárias - no entanto, frases simples ou curtas ocasionais e erros ortográficos no texto de origem aparecían verbatim na saída, potencialmente proporcionando um sinal identificador. A tradução encadenada pode deixar rastros característicos de sua aplicação em um documento, o que pode permitir a reconstrução dos idiomas intermediários usados e o número de etapas de tradução realizadas.
A ofuscação envolve cambiar deliberadamente o estilo de um texto para reduzir sua semellanza com outros textos por alguna métrica; isso pode ser realizado no momento da escrita por modificación consciente, ou como parte de um processo de revisión com retroalimentación da métrica que se está a atacar como entrada para decidir quando o texto foi suficientemente ofuscado.
Ferramentas Automatizadas e Pesquisa
Ferramentas semiautomáticas e totalmente automáticas para estilometría adversarial são uma área ativa de pesquisa. O design de tais ferramentas deve equilibrar a necessidade de obscurecer o estilo com o requisito de preservar o significado. Algumas abordagens demonstraron ser capaces de derrotar análises estilométricas particulares, especialmente aquelas que não consideran a possibilidade de adversarialidade. No entanto, estabelecer segurança contra análises futuras desconocidas sigue sendo um desafío. A fidelidade da paráfrase é uma questão crítica; os sistemas automatizados podem producir textos que são gramaticalmente corretos pero que alteran sutilmente o significado original.
Os avanços recentes em modelos de linguagem de grande escala e IA generativa abriron novas possibilidades para transferência de estilo e generación de paráfrasis. Estes modelos podem ser usados para reescribir texto em um estilo diferente enquanto retienen o conteúdo, pero também introducen riscos de artefactos detectables. A pesquisa continua sobre como fazer tais sistemas más robustos e menos detectables.
Detección e Contramedidas
Detectar se um texto foi estilizado de forma adversarial é em si mesmo um problema difícil. Alguns estudos identificaron señales deixadas por métodos particulares, como a presença de erros de tradução ou escolhas de palavras inusuales. No entanto, se o estilometrista não sabe qual método foi usado, a detección confiable pode ser impossível. Isso crea uma corrida armamentista entre aqueles que buscan anonimizar texto e aqueles que buscan desmascarar autores.
Considerações Éticas e Legais
O uso de estilometría adversarial levanta questões éticas. Embora possa proteger a privacidade e habilitar a liberdade de expresión, também pode ser usado para fins maliciosos, como fraude ou difusión de desinformación. Os marcos legales variam según a jurisdicción, e a prática pode ser regulada em alguns contextos. Como com muitas tecnologías de mejora de la privacidad, a natureza de doble uso da estilometría adversarial a converte em um tema de debate contínuo.
Veja Também
- inteligência artificial
- aprendizado automático
- aprendizado profundo
- rede neural
- transformador
- processamento de linguagem natural
Referências
- Brennan, M., & Greenstadt, R. (2009). Practical attacks against authorship recognition techniques.
- Brennan, M., Afroz, S., & Greenstadt, R. (2012). Adversarial stylometry: Circumventing authorship recognition to preserve privacy and anonymity.
- Gröndahl, T., & Asokan, N. (2020). Text analysis in adversarial settings.
- Kacmarcik, G., & Gamon, M. (2006). Obfuscating document stylometry to preserve author anonymity.
- Narayanan, A., et al. (2012). On the feasibility of internet-scale author identification.
- Rao, J. R., & Rohatgi, P. (2000). Can pseudonymity really guarantee privacy?
- Wang, Y., Juola, P., & Riddell, A. (2022). Translation as a means of authorship obfuscation.