Adversarial Stylometry ist die Praxis, den Schreibstil zu verändern, um das Potenzial der Stylometrie zu verringern, die Identität des Autors oder seine Merkmale zu entdecken. Diese Aufgabe ist auch als Autorschafts-Verschleierung oder Autorschafts-Anonymisierung bekannt. Stylometrie stellt eine erhebliche Datenschutzherausforderung dar, da sie anonyme Autoren enttarnen oder Pseudonyme mit anderen Identitäten eines Autors verknüpfen kann, was beispielsweise für Whistleblower, Aktivisten sowie für Scherz- und Betrugsstraftäter Schwierigkeiten schafft. Es wird erwartet, dass das Datenschutzrisiko wächst, da sich Techniken des maschinellen Lernens und Textkorpora weiterentwickeln.
Alle adversarialen Stylometry-Ansätze teilen die Kernidee, den Quelltext getreu zu paraphrasieren, sodass die Bedeutung unverändert bleibt, die stilistischen Signale jedoch verschleiert werden. Eine solche getreue Paraphrase ist ein adversariales Beispiel für einen stylometrischen Klassifikator. Es gibt mehrere breite Ansätze hierfür, die sich teilweise überschneiden: Imitation, bei der der eigene Stil durch den eines anderen ersetzt wird; Übersetzung, bei der maschinelle Übersetzung angewendet wird in der Hoffnung, dass dies charakteristischen Stil im Quelltext eliminiert; und Verschleierung, bei der der Stil eines Textes absichtlich verändert wird, um ihn dem eigenen Stil unähnlich zu machen.
Das manuelle Verschleiern des Stils ist möglich, aber mühsam; in manchen Umständen ist es vorzuziehen oder notwendig. Automatisierte Werkzeuge, entweder halb- oder vollautomatisch, könnten einen Autor unterstützen. Wie die Aufgabe am besten ausgeführt wird und wie solche Werkzeuge gestaltet werden sollten, ist eine offene Forschungsfrage. Während gezeigt wurde, dass einige Ansätze bestimmte stylometrische Analysen überwinden können, insbesondere solche, die das Potenzial der Adversarialität nicht berücksichtigen, ist die Feststellung von Sicherheit angesichts unbekannter Analysen ein Problem. Die Gewährleistung der Treue der Paraphrase ist eine kritische Herausforderung für automatisierte Werkzeuge.
Es ist ungewiss, ob die Praxis der adversarialen Stylometry selbst erkennbar ist. Einige Studien haben festgestellt, dass bestimmte Methoden Signale im Ausgabetext hinterließen, aber ein Stylometriker, der nicht sicher ist, welche Methoden verwendet wurden, könnte sie möglicherweise nicht zuverlässig erkennen.
Geschichte
Rao & Rohatgi (2000), eine frühe Arbeit in der adversarialen Stylometry, identifizierten maschinelle Übersetzung als Möglichkeit, stellten jedoch fest, dass die Qualität der damals verfügbaren Übersetzer erhebliche Herausforderungen darstellte. Kacmarcik & Gamon (2006) ist eine weitere frühe Arbeit. Brennan, Afroz & Greenstadt (2012) führten die erste Bewertung adversarialer stylometrischer Methoden an tatsächlichen Texten durch.
Brennan & Greenstadt (2009) führten das erste Korpus adversarially verfasster Texte speziell zur Bewertung stylometrischer Methoden ein; andere Korpora umfassen den International Imitation Hemingway Competition, den Faux Faulkner Contest und den Hoax-Blog A Gay Girl in Damascus.
Motivationen
Rao & Rohatgi (2000) vermuten, dass kurze, nicht zugeordnete Dokumente (d. h. anonyme Beiträge) nicht dem Risiko einer stylometrischen Identifizierung ausgesetzt sind, aber pseudonyme Autoren, die keine adversarial Stylometry praktiziert haben, könnten bei Korpora von Tausenden von Wörtern verwundbar sein. Narayanan et al. (2012) versuchten eine groß angelegte Deanonymisierung von 100.000 Blog-Autoren mit gemischten Ergebnissen: Die Identifizierungen waren deutlich besser als der Zufall, aber sie ordneten Blog und Autor nur ein Fünftel der Zeit genau zu; die Identifizierung verbesserte sich mit der Anzahl der Beiträge, die der Autor im Korpus geschrieben hatte. Selbst wenn ein Autor nicht identifiziert wird, können einige seiner Merkmale dennoch stylometrisch abgeleitet werden, oder Stylometrie könnte die Anonymitätsmenge potenzieller Autoren ausreichend einschränken, sodass andere Informationen die Identifizierung vervollständigen. Die Erkennung von Autormerkmalen (z. B. Geschlecht oder Alter) ist oft einfacher als die Identifizierung eines Autors aus einer großen, möglicherweise offenen Menge von Kandidaten.
Moderne Techniken des maschinellen Lernens bieten leistungsstarke Werkzeuge zur Identifizierung; die weitere Entwicklung von Korpora und computergestützten stylometrischen Techniken wird wahrscheinlich weitere Datenschutzprobleme aufwerfen. Gröndahl & Asokan (2020a) sagen, dass die allgemeine Gültigkeit der der Stylometrie zugrunde liegenden Hypothese - dass Autoren invariante, inhaltsunabhängige 'Stil-Fingerabdrücke' haben - ungewiss ist, aber 'der Deanonymisierungsangriff ist ein echtes Datenschutzproblem'.
Zu denjenigen, die daran interessiert sind, adversarial Stylometry und stilistische Täuschung zu praktizieren, gehören Whistleblower, die Vergeltung vermeiden; Journalisten und Aktivisten; Täter von Betrug und Hoaxes; Autoren von gefälschten Bewertungen; literarische Fälscher; Kriminelle, die ihre Identität vor Ermittlern verbergen; und allgemein jeder mit einem Wunsch nach Anonymität oder Pseudonymität. Autoren oder im Namen von Autoren handelnde Agenten könnten auch versuchen, stilistische Hinweise auf Autormerkmale (z. B. Rasse oder Geschlecht) zu entfernen, damit Kenntnisse dieser Merkmale nicht zur Diskriminierung verwendet werden können (z. B. durch algorithmische Verzerrung). Eine weitere mögliche Verwendung für adversarial Stylometry ist die Tarnung automatisch generierter Texte als von Menschen verfasst.
Methoden
Bei der Imitation versucht der Autor, Stylometry in die Irre zu führen, indem er seinen Stil an den eines anderen Autors anpasst. Eine unvollständige Imitation, bei der einige der einzigartigen Merkmale des wahren Autors neben denen des imitierten Autors erscheinen, kann ein erkennbares Signal für die Verwendung adversarialer Stylometry sein. Imitation kann automatisch mit Stiltransfer-Systemen durchgeführt werden, obwohl dies typischerweise ein großes Korpus im Zielstil erfordert, aus dem das System lernen kann.
Ein anderer Ansatz ist die Übersetzung, die maschinelle Übersetzung eines Quelltextes verwendet, um charakteristischen Stil zu eliminieren, oft durch mehrere aufeinanderfolgende Übersetzer, um eine Round-Trip-Übersetzung zu erzeugen. Solche verketteten Übersetzungen können dazu führen, dass Texte erheblich verändert werden, sogar bis zur Unverständlichkeit; verbesserte Übersetzungswerkzeuge verringern dieses Risiko. Einfacher strukturierte Texte können oft leichter maschinell übersetzt werden, ohne die ursprüngliche Bedeutung zu verlieren. Maschinelle Übersetzung geht in direkte stilistische Imitation oder Verschleierung über, die durch automatisierten Stiltransfer erreicht wird und als 'Übersetzung' mit derselben Sprache als Eingabe und Ausgabe betrachtet werden kann. Bei Übersetzungswerkzeugen niedriger Qualität kann ein Autor gezwungen sein, größere Übersetzungsfehler manuell zu korrigieren, während er die Gefahr vermeidet, stilistische Merkmale wieder einzuführen. Wang, Juola & Riddell (2022) fanden heraus, dass grobe Fehler, die von Google Translate eingeführt wurden, selten waren, aber bei mehreren Zwischenübersetzungen häufiger auftraten - jedoch erschienen gelegentlich einfache oder kurze Sätze und Rechtschreibfehler im Quelltext wörtlich im Ausgabetext, was möglicherweise ein identifizierendes Signal darstellt. Kettenübersetzung kann charakteristische Spuren ihrer Anwendung in einem Dokument hinterlassen, was die Rekonstruktion der verwendeten Zwischensprachen und der Anzahl der durchgeführten Übersetzungsschritte ermöglichen könnte.
Verschleierung beinhaltet die absichtliche Änderung des Stils eines Textes, um seine Ähnlichkeit zu anderen Texten nach einer Metrik zu verringern; dies kann beim Schreiben durch bewusste Modifikation erfolgen oder als Teil eines Überarbeitungsprozesses mit Feedback von der Zielmetrik als Eingabe, um zu entscheiden, wann der Text ausreichend verschleiert wurde.
Automatisierte Werkzeuge und Forschung
Halbautomatische und vollautomatische Werkzeuge für adversarial Stylometry sind ein aktives Forschungsgebiet. Das Design solcher Werkzeuge muss das Bedürfnis, Stil zu verschleiern, mit der Anforderung, Bedeutung zu bewahren, in Einklang bringen. Einige Ansätze haben gezeigt, dass sie bestimmte stylometrische Analysen überwinden können, insbesondere solche, die die Möglichkeit von Adversarialität nicht berücksichtigen. Die Feststellung von Sicherheit gegen unbekannte zukünftige Analysen bleibt jedoch eine Herausforderung. Die Treue der Paraphrase ist ein kritisches Problem; automatisierte Systeme können Texte erzeugen, die grammatikalisch korrekt sind, aber die ursprüngliche Bedeutung subtil verändern.
Jüngste Fortschritte bei Großsprachmodellen und generativer KI haben neue Möglichkeiten für Stiltransfer und Paraphrasengenerierung eröffnet. Diese Modelle können verwendet werden, um Text in einem anderen Stil umzuschreiben, während der Inhalt erhalten bleibt, aber sie führen auch Risiken erkennbarer Artefakte ein. Die Forschung setzt sich fort, wie solche Systeme robuster und weniger erkennbar gemacht werden können.
Erkennung und Gegenmaßnahmen
Die Erkennung, ob ein Text adversarially stilisiert wurde, ist selbst ein schwieriges Problem. Einige Studien haben Signale identifiziert, die von bestimmten Methoden hinterlassen werden, wie das Vorhandensein von Übersetzungsfehlern oder ungewöhnlichen Wortwahlen. Wenn der Stylometriker jedoch nicht weiß, welche Methode verwendet wurde, könnte eine zuverlässige Erkennung unmöglich sein. Dies schafft ein Wettrüsten zwischen denen, die Texte anonymisieren möchten, und denen, die Autoren enttarnen möchten.
Ethische und rechtliche Überlegungen
Die Verwendung von adversarialer Stylometry wirft ethische Fragen auf. Während sie Privatsphäre schützen und Meinungsfreiheit ermöglichen kann, kann sie auch für böswillige Zwecke verwendet werden, wie Betrug oder die Verbreitung von Desinformation. Rechtliche Rahmenbedingungen variieren je nach Gerichtsbarkeit, und die Praxis könnte in einigen Kontexten reguliert sein. Wie bei vielen Technologien zur Verbesserung der Privatsphäre macht der Dual-Use-Charakter von adversarialer Stylometry sie zu einem Thema fortlaufender Debatte.
Siehe auch
- Künstliche Intelligenz
- Maschinelles Lernen
- Tiefes Lernen
- Neuronales Netz
- Transformer
- Verarbeitung natürlicher Sprache
Referenzen
- Brennan, M., & Greenstadt, R. (2009). Practical attacks against authorship recognition techniques.
- Brennan, M., Afroz, S., & Greenstadt, R. (2012). Adversarial stylometry: Circumventing authorship recognition to preserve privacy and anonymity.
- Gröndahl, T., & Asokan, N. (2020). Text analysis in adversarial settings.
- Kacmarcik, G., & Gamon, M. (2006). Obfuscating document stylometry to preserve author anonymity.
- Narayanan, A., et al. (2012). On the feasibility of internet-scale author identification.
- Rao, J. R., & Rohatgi, P. (2000). Can pseudonymity really guarantee privacy?
- Wang, Y., Juola, P., & Riddell, A. (2022). Translation as a means of authorship obfuscation.