La estilometría adversarial es la práctica de alterar el estilo de escritura para reducir la posibilidad de que la estilometría descubra la identidad del autor o sus características. Esta tarea también se conoce como ofuscación de autoría o anonimización de autoría. La estilometría plantea un desafío significativo para la privacidad por su capacidad de desenmascarar a autores anónimos o de vincular seudónimos con otras identidades de un autor, lo que, por ejemplo, crea dificultades para denunciantes, activistas y tanto bromistas como estafadores. Se espera que el riesgo para la privacidad aumente a medida que se desarrollen las técnicas de aprendizaje automático y los corpus de texto.
Toda la estilometría adversarial comparte la idea central de parafrasear fielmente el texto fuente para que el significado no cambie pero las señales estilísticas queden oscurecidas. Tal paráfrasis fiel es un ejemplo adversarial para un clasificador estilométrico. Existen varios enfoques generales para esto, con cierto solapamiento: la imitación, que sustituye el estilo propio del autor por el de otro; la traducción, que aplica traducción automática con la esperanza de que esto elimine el estilo característico del texto fuente; y la ofuscación, que modifica deliberadamente el estilo de un texto para que no se parezca al del propio autor.
Oscurecer el estilo manualmente es posible, pero laborioso; en algunas circunstancias, es preferible o necesario. Las herramientas automatizadas, ya sean semiautomáticas o totalmente automáticas, podrían ayudar a un autor. La mejor manera de realizar la tarea y el diseño de tales herramientas es una cuestión de investigación abierta. Si bien se ha demostrado que algunos enfoques pueden derrotar análisis estilométricos particulares, especialmente aquellos que no tienen en cuenta la posibilidad de adversarialidad, establecer seguridad frente a análisis desconocidos es un problema. Garantizar la fidelidad de la paráfrasis es un desafío crítico para las herramientas automatizadas.
Es incierto si la práctica de la estilometría adversarial es detectable en sí misma. Algunos estudios han encontrado que métodos particulares producían señales en el texto de salida, pero un estilometrista que no esté seguro de qué métodos se han podido usar puede no ser capaz de detectarlos de manera fiable.
Historia
Rao & Rohatgi (2000), un trabajo temprano en estilometría adversarial, identificó la traducción automática como una posibilidad, pero señaló que la calidad de los traductores disponibles en ese momento presentaba desafíos severos. Kacmarcik & Gamon (2006) es otro trabajo temprano. Brennan, Afroz & Greenstadt (2012) realizaron la primera evaluación de métodos estilométricos adversariales sobre textos reales.
Brennan & Greenstadt (2009) introdujeron el primer corpus de textos escritos de manera adversarial específicamente para evaluar métodos estilométricos; otros corpus incluyen el International Imitation Hemingway Competition, el concurso Faux Faulkner y el blog de broma A Gay Girl in Damascus.
Motivaciones
Rao & Rohatgi (2000) sugieren que los documentos cortos y sin atribución (es decir, publicaciones anónimas) no corren riesgo de identificación estilométrica, pero los autores seudónimos que no han practicado la estilometría adversarial al producir corpus de miles de palabras pueden ser vulnerables. Narayanan et al. (2012) intentaron la desanonimización a gran escala de 100,000 autores de blogs con resultados mixtos: las identificaciones fueron significativamente mejores que el azar, pero solo coincidieron con precisión con el blog y el autor una quinta parte de las veces; la identificación mejoraba con el número de publicaciones escritas por el autor en el corpus. Incluso si un autor no es identificado, algunas de sus características aún pueden deducirse estilométricamente, o la estilometría puede reducir el conjunto de anonimato de autores potenciales lo suficiente como para que otra información complete la identificación. Detectar características del autor (por ejemplo, género o edad) suele ser más simple que identificar a un autor a partir de un conjunto grande, posiblemente abierto, de candidatos.
Las técnicas modernas de aprendizaje automático ofrecen herramientas poderosas para la identificación; es probable que un mayor desarrollo de corpus y técnicas estilométricas computacionales plantee más problemas de privacidad. Gröndahl & Asokan (2020a) afirman que la validez general de la hipótesis subyacente a la estilometría - que los autores tienen 'huellas de estilo' invariantes e independientes del contenido - es incierta, pero "el ataque de desanonimización es una preocupación real para la privacidad".
Entre quienes están interesados en practicar la estilometría adversarial y el engaño estilístico se incluyen denunciantes que evitan represalias; periodistas y activistas; perpetradores de fraudes y bromas; autores de reseñas falsas; falsificadores literarios; delincuentes que ocultan su identidad a los investigadores; y, en general, cualquier persona con deseo de anonimato o seudonimato. Los autores, o agentes que actúan en nombre de los autores, también pueden intentar eliminar pistas estilísticas sobre características del autor (por ejemplo, raza o género) para que el conocimiento de esas características no pueda usarse para discriminación (por ejemplo, mediante sesgo algorítmico). Otro uso posible de la estilometría adversarial es disfrazar texto generado automáticamente como si hubiera sido escrito por humanos.
Métodos
Con la imitación, el autor intenta engañar a la estilometría igualando su estilo al de otro autor. Una imitación incompleta, donde algunas de las características únicas del verdadero autor aparecen junto a las del autor imitado, puede ser una señal detectable del uso de estilometría adversarial. La imitación se puede realizar automáticamente con sistemas de transferencia de estilo, aunque esto normalmente requiere un corpus grande en el estilo objetivo para que el sistema aprenda de él.
Otro enfoque es la traducción, que emplea la traducción automática de un texto fuente para eliminar el estilo característico, a menudo mediante múltiples traductores en secuencia para producir una traducción de ida y vuelta. Esta traducción encadenada puede hacer que los textos se alteren significativamente, incluso hasta el punto de resultar incomprensibles; las herramientas de traducción mejoradas reducen este riesgo. Los textos con estructuras más simples pueden ser más fáciles de traducir automáticamente sin perder el significado original. La traducción automática se difumina en la imitación estilística directa o la ofuscación lograda mediante transferencia de estilo automatizada, que puede verse como una "traducción" con el mismo idioma como entrada y salida. Con herramientas de traducción de baja calidad, un autor puede verse obligado a corregir manualmente errores de traducción importantes mientras evita el peligro de reintroducir características estilísticas. Wang, Juola & Riddell (2022) encontraron que los errores graves introducidos por Google Translate eran raros, pero más comunes con varias traducciones intermedias - sin embargo, ocasionalmente aparecían en la salida oraciones simples o cortas y errores ortográficos del texto fuente, lo que potencialmente proporciona una señal identificativa. La traducción encadenada puede dejar rastros característicos de su aplicación en un documento, lo que puede permitir reconstruir los idiomas intermedios utilizados y el número de pasos de traducción realizados.
La ofuscación implica cambiar deliberadamente el estilo de un texto para reducir su similitud con otros textos según alguna métrica; esto puede realizarse en el momento de escribir mediante modificación consciente, o como parte de un proceso de revisión con retroalimentación de la métrica objetivo como entrada para decidir cuándo el texto ha sido suficientemente ofuscado.
Herramientas automatizadas e investigación
Las herramientas semiautomáticas y totalmente automáticas para la estilometría adversarial son un área activa de investigación. El diseño de tales herramientas debe equilibrar la necesidad de oscurecer el estilo con el requisito de preservar el significado. Se ha demostrado que algunos enfoques derrotan análisis estilométricos particulares, especialmente aquellos que no tienen en cuenta la posibilidad de adversarialidad. Sin embargo, establecer seguridad frente a análisis futuros desconocidos sigue siendo un desafío. La fidelidad de la paráfrasis es un problema crítico; los sistemas automatizados pueden producir textos gramaticalmente correctos pero que alteran sutilmente el significado original.
Los avances recientes en modelos de lenguaje grandes y IA generativa han abierto nuevas posibilidades para la transferencia de estilo y la generación de paráfrasis. Estos modelos se pueden usar para reescribir texto en un estilo diferente conservando el contenido, pero también introducen riesgos de artefactos detectables. La investigación continúa sobre cómo hacer que tales sistemas sean más robustos y menos detectables.
Detección y contramedidas
Detectar si un texto ha sido estilizado de manera adversarial es en sí mismo un problema difícil. Algunos estudios han identificado señales dejadas por métodos particulares, como la presencia de errores de traducción o elecciones de palabras inusuales. Sin embargo, si el estilometrista no sabe qué método se usó, la detección fiable puede ser imposible. Esto crea una carrera armamentista entre quienes buscan anonimizar texto y quienes buscan desenmascarar a los autores.
Consideraciones éticas y legales
El uso de la estilometría adversarial plantea cuestiones éticas. Si bien puede proteger la privacidad y permitir la libertad de expresión, también puede usarse con fines maliciosos, como fraude o difusión de desinformación. Los marcos legales varían según la jurisdicción, y la práctica puede estar regulada en algunos contextos. Como ocurre con muchas tecnologías de mejora de la privacidad, la naturaleza de doble uso de la estilometría adversarial la convierte en un tema de debate continuo.
Véase también
- inteligencia artificial
- aprendizaje automático
- aprendizaje profundo
- red neuronal
- transformador
- procesamiento del lenguaje natural
Referencias
- Brennan, M., & Greenstadt, R. (2009). Practical attacks against authorship recognition techniques.
- Brennan, M., Afroz, S., & Greenstadt, R. (2012). Adversarial stylometry: Circumventing authorship recognition to preserve privacy and anonymity.
- Gröndahl, T., & Asokan, N. (2020). Text analysis in adversarial settings.
- Kacmarcik, G., & Gamon, M. (2006). Obfuscating document stylometry to preserve author anonymity.
- Narayanan, A., et al. (2012). On the feasibility of internet-scale author identification.
- Rao, J. R., & Rohatgi, P. (2000). Can pseudonymity really guarantee privacy?
- Wang, Y., Juola, P., & Riddell, A. (2022). Translation as a means of authorship obfuscation.