La stylométrie contradictoire est la pratique consistant à modifier le style d'écriture afin de réduire le potentiel de la stylométrie à découvrir l'identité de l'auteur ou ses caractéristiques. Cette tâche est également connue sous le nom d'obfuscation d'auteur ou d'anonymisation d'auteur. La stylométrie pose un défi important en matière de confidentialité par sa capacité à démasquer des auteurs anonymes ou à relier des pseudonymes à d'autres identités d'un auteur, ce qui, par exemple, crée des difficultés pour les lanceurs d'alerte, les militants, ainsi que les canulars et les fraudeurs. Le risque pour la vie privée devrait augmenter à mesure que les techniques d'apprentissage automatique et les corpus textuels se développent.
Toute stylométrie contradictoire partage l'idée centrale de paraphraser fidèlement le texte source afin que le sens soit inchangé mais que les signaux stylistiques soient obscurcis. Une telle paraphrase fidèle est un exemple contradictoire pour un classificateur stylométrique. Plusieurs approches générales existent, avec certains chevauchements : l'imitation, qui consiste à substituer le style propre de l'auteur par celui d'un autre ; la traduction, qui applique la traduction automatique dans l'espoir que cela élimine le style caractéristique du texte source ; et l'obfuscation, qui modifie délibérément le style d'un texte pour qu'il ne ressemble pas à celui de l'auteur.
Obscurcir manuellement le style est possible, mais laborieux ; dans certaines circonstances, cela est préférable ou nécessaire. Des outils automatisés, semi-automatiques ou entièrement automatiques, pourraient assister un auteur. La meilleure façon d'accomplir cette tâche et la conception de tels outils constituent une question de recherche ouverte. Bien que certaines approches aient montré leur capacité à vaincre des analyses stylométriques particulières, notamment celles qui ne tiennent pas compte du potentiel de contradiction, établir une sécurité face à des analyses inconnues reste un problème. Garantir la fidélité de la paraphrase est un défi critique pour les outils automatisés.
Il est incertain que la pratique de la stylométrie contradictoire soit elle-même détectable. Certaines études ont constaté que des méthodes particulières produisaient des signaux dans le texte de sortie, mais un stylométricien qui ne sait pas quelles méthodes ont pu être utilisées pourrait ne pas être en mesure de les détecter de manière fiable.
Histoire
Rao & Rohatgi (2000), un travail précoce en stylométrie contradictoire, a identifié la traduction automatique comme une possibilité, mais a noté que la qualité des traducteurs disponibles à l'époque présentait de sérieux défis. Kacmarcik & Gamon (2006) est un autre travail précoce. Brennan, Afroz & Greenstadt (2012) ont effectué la première évaluation des méthodes stylométriques contradictoires sur des textes réels.
Brennan & Greenstadt (2009) ont introduit le premier corpus de textes rédigés de manière contradictoire spécifiquement pour évaluer les méthodes stylométriques ; d'autres corpus incluent le concours international d'imitation Hemingway, le concours Faux Faulkner, et le blog canular A Gay Girl in Damascus.
Motivations
Rao & Rohatgi (2000) suggèrent que les documents courts et non attribués (c'est-à-dire les messages anonymes) ne sont pas à risque d'identification stylométrique, mais les auteurs pseudonymes qui n'ont pas pratiqué la stylométrie contradictoire en produisant des corpus de milliers de mots peuvent être vulnérables. Narayanan et al. (2012) ont tenté une désanonymisation à grande échelle de 100 000 auteurs de blogs avec des résultats mitigés : les identifications étaient significativement meilleures que le hasard, mais ne correspondaient correctement au blog et à l'auteur qu'un cinquième du temps ; l'identification s'améliorait avec le nombre de messages écrits par l'auteur dans le corpus. Même si un auteur n'est pas identifié, certaines de ses caractéristiques peuvent encore être déduites par stylométrie, ou la stylométrie peut réduire l'ensemble d'anonymat des auteurs potentiels suffisamment pour que d'autres informations complètent l'identification. Détecter les caractéristiques de l'auteur (par exemple, le genre ou l'âge) est souvent plus simple que d'identifier un auteur parmi un grand ensemble, possiblement ouvert, de candidats.
Les techniques modernes d'apprentissage automatique offrent des outils puissants pour l'identification ; le développement ultérieur des corpus et des techniques stylométriques computationnelles est susceptible de soulever d'autres problèmes de confidentialité. Gröndahl & Asokan (2020a) affirment que la validité générale de l'hypothèse sous-jacente à la stylométrie - selon laquelle les auteurs ont des « empreintes stylistiques » invariantes et indépendantes du contenu - est incertaine, mais « l'attaque de désanonymisation est une préoccupation réelle pour la vie privée ».
Ceux qui s'intéressent à la pratique de la stylométrie contradictoire et à la tromperie stylistique incluent les lanceurs d'alerte évitant des représailles ; les journalistes et militants ; les auteurs de fraudes et de canulars ; les auteurs de faux avis ; les faussaires littéraires ; les criminels dissimulant leur identité aux enquêteurs ; et, généralement, toute personne souhaitant l'anonymat ou le pseudonymat. Les auteurs, ou des agents agissant en leur nom, peuvent également tenter de supprimer les indices stylistiques des caractéristiques de l'auteur (par exemple, la race ou le genre) afin que la connaissance de ces caractéristiques ne puisse pas être utilisée pour la discrimination (par exemple, par le biais de biais algorithmiques). Une autre utilisation possible de la stylométrie contradictoire est de déguiser un texte généré automatiquement comme étant rédigé par un humain.
Méthodes
Avec l'imitation, l'auteur tente d'induire en erreur la stylométrie en faisant correspondre son style à celui d'un autre auteur. Une imitation incomplète, où certaines des caractéristiques uniques du véritable auteur apparaissent à côté de celles de l'auteur imité, peut être un signal détectable de l'utilisation de la stylométrie contradictoire. L'imitation peut être effectuée automatiquement avec des systèmes de transfert de style, bien que cela nécessite généralement un grand corpus dans le style cible pour que le système puisse apprendre.
Une autre approche est la traduction, qui utilise la traduction automatique d'un texte source pour éliminer le style caractéristique, souvent en passant par plusieurs traducteurs en séquence pour produire une traduction aller-retour. Une telle traduction en chaîne peut conduire à des textes considérablement modifiés, voire jusqu'à l'incompréhensibilité ; des outils de traduction améliorés réduisent ce risque. Des textes à structure plus simple peuvent être plus faciles à traduire automatiquement sans perdre le sens original. La traduction automatique se confond avec l'imitation stylistique directe ou l'obfuscation obtenue par transfert de style automatisé, qui peut être considérée comme une « traduction » avec la même langue en entrée et en sortie. Avec des outils de traduction de faible qualité, un auteur peut être obligé de corriger manuellement les erreurs de traduction majeures tout en évitant le danger de réintroduire des caractéristiques stylistiques. Wang, Juola & Riddell (2022) ont constaté que les erreurs grossières introduites par Google Translate étaient rares, mais plus courantes avec plusieurs traductions intermédiaires - cependant, des phrases simples ou courtes occasionnelles et des fautes d'orthographe dans le texte source apparaissaient textuellement dans la sortie, fournissant potentiellement un signal d'identification. La traduction en chaîne peut laisser des traces caractéristiques de son application dans un document, ce qui peut permettre de reconstruire les langues intermédiaires utilisées et le nombre d'étapes de traduction effectuées.
L'obfuscation implique de changer délibérément le style d'un texte pour réduire sa similarité avec d'autres textes selon une certaine métrique ; cela peut être effectué au moment de la rédaction par modification consciente, ou dans le cadre d'un processus de révision avec un retour de la métrique ciblée comme entrée pour décider quand le texte a été suffisamment obscurci.
Outils automatisés et recherche
Les outils semi-automatiques et entièrement automatiques pour la stylométrie contradictoire sont un domaine de recherche actif. La conception de tels outils doit équilibrer le besoin d'obscurcir le style avec l'exigence de préserver le sens. Certaines approches ont montré leur capacité à vaincre des analyses stylométriques particulières, en particulier celles qui ne tiennent pas compte de la possibilité de contradiction. Cependant, établir une sécurité contre de futures analyses inconnues reste un défi. La fidélité de la paraphrase est un problème critique ; les systèmes automatisés peuvent produire des textes grammaticalement corrects mais qui modifient subtilement le sens original.
Les récentes avancées dans les grands modèles de langage et la IA générative ont ouvert de nouvelles possibilités pour le transfert de style et la génération de paraphrases. Ces modèles peuvent être utilisés pour réécrire un texte dans un style différent tout en conservant le contenu, mais ils introduisent également des risques d'artefacts détectables. La recherche se poursuit sur la manière de rendre ces systèmes plus robustes et moins détectables.
Détection et contre-mesures
Détecter si un texte a été stylisé de manière contradictoire est en soi un problème difficile. Certaines études ont identifié des signaux laissés par des méthodes particulières, comme la présence d'erreurs de traduction ou de choix de mots inhabituels. Cependant, si le stylométricien ne sait pas quelle méthode a été utilisée, une détection fiable peut être impossible. Cela crée une course aux armements entre ceux qui cherchent à anonymiser le texte et ceux qui cherchent à démasquer les auteurs.
Considérations éthiques et juridiques
L'utilisation de la stylométrie contradictoire soulève des questions éthiques. Bien qu'elle puisse protéger la vie privée et permettre la liberté d'expression, elle peut également être utilisée à des fins malveillantes, comme la fraude ou la diffusion de désinformation. Les cadres juridiques varient selon les juridictions, et la pratique peut être réglementée dans certains contextes. Comme pour de nombreuses technologies d'amélioration de la vie privée, la nature à double usage de la stylométrie contradictoire en fait un sujet de débat continu.
Voir aussi
- intelligence artificielle
- apprentissage automatique
- apprentissage profond
- réseau de neurones
- transformeur
- traitement du langage naturel
Références
- Brennan, M., & Greenstadt, R. (2009). Practical attacks against authorship recognition techniques.
- Brennan, M., Afroz, S., & Greenstadt, R. (2012). Adversarial stylometry: Circumventing authorship recognition to preserve privacy and anonymity.
- Gröndahl, T., & Asokan, N. (2020). Text analysis in adversarial settings.
- Kacmarcik, G., & Gamon, M. (2006). Obfuscating document stylometry to preserve author anonymity.
- Narayanan, A., et al. (2012). On the feasibility of internet-scale author identification.
- Rao, J. R., & Rohatgi, P. (2000). Can pseudonymity really guarantee privacy?
- Wang, Y., Juola, P., & Riddell, A. (2022). Translation as a means of authorship obfuscation.