敵対的計量文体学（アドバーサリアル・スタイロメトリー）とは、文体を変更することで、計量文体学が著者の身元や特性を特定する可能性を低減させる実践である。このタスクは、著者性難読化（オーサーシップ・オブファスケーション）または著者性匿名化（オーサーシップ・アノニマイゼーション）としても知られる。計量文体学は、匿名の著者を特定したり、ペンネームを著者の他の身元と関連付けたりする能力において、重大なプライバシー上の課題を提起する。これは、例えば、内部告発者、活動家、ならびに詐欺師やデマを流す者にとって困難を生み出す。機械学習技術とテキストコーパスの発展に伴い、プライバシーリスクは拡大すると予想される。
すべての敵対的計量文体学は、意味を変えずに文体のシグナルを不明瞭にするように、ソーステキストを忠実に言い換えるという中核的な考え方を共有している。このような忠実な言い換えは、計量文体学分類器に対する敵対的例（アドバーサリアル・イグザンプル）である。これにはいくつかの広範なアプローチが存在し、一部は重複する：模倣（著者自身のスタイルを他人のスタイルに置き換える）、翻訳（機械翻訳を適用し、ソーステキストの特徴的なスタイルが排除されることを期待する）、および難読化（テキストのスタイルを意図的に変更し、著者自身のスタイルに似ないようにする）である。
手動でスタイルを不明瞭にすることは可能だが、労力を要する。状況によっては、それが好ましいまたは必要となる場合もある。半自動または完全自動のツールは、著者を支援できる可能性がある。このタスクを最適に実行する方法と、そのようなツールの設計は、未解決の研究課題である。特定の計量文体学分析、特に敵対的可能性を考慮していない分析を打ち負かすことができるアプローチが示されている一方で、未知の分析に直面した場合の安全性を確立することは課題である。言い換えの忠実性を確保することは、自動ツールにとって重要な課題である。
敵対的計量文体学の実践自体が検出可能であるかどうかは不確かである。いくつかの研究では、特定の方法が出力テキストにシグナルを生み出すことが判明しているが、どの方法が使用されたか確信が持てない計量文体学者は、それらを確実に検出できない可能性がある。
歴史
Rao & Rohatgi (2000) は、敵対的計量文体学における初期の研究であり、機械翻訳を可能性として特定したが、当時利用可能な翻訳ツールの品質が深刻な課題を提示したと指摘した。Kacmarcik & Gamon (2006) も初期の研究である。Brennan, Afroz & Greenstadt (2012) は、実際のテキストに対する敵対的計量文体学的手法の最初の評価を行った。
Brennan & Greenstadt (2009) は、計量文体学的手法を評価するために特別に設計された最初の敵対的に執筆されたテキストのコーパスを導入した。他のコーパスには、国際模倣ヘミングウェイコンテスト、フォークス・フォークナーコンテスト、およびデマブログ「A Gay Girl in Damascus」が含まれる。
動機
Rao & Rohatgi (2000) は、短く帰属不明の文書（すなわち匿名の投稿）は計量文体学的特定のリスクにさらされないが、敵対的計量文体学を実践せずに数千語のコーパスを生成したペンネームの著者は脆弱である可能性があると示唆している。Narayanan et al. (2012) は、10万人のブログ著者の大規模な非匿名化を試み、混合した結果を得た：特定は偶然よりも有意に優れていたが、ブログと著者を正確に一致させたのは5分の1の頻度であり、特定はコーパス内の著者による投稿数とともに改善された。著者が特定されなくても、その特性の一部は計量文体学的に推定される可能性があり、または計量文体学は潜在的な著者の匿名セットを十分に絞り込み、他の情報が特定を完了できるようにする可能性がある。著者の特性（例：性別や年齢）を検出することは、大規模で、場合によってはオープンな候補セットから著者を特定するよりもしばしば簡単である。
現代の機械学習技術は、特定のための強力なツールを提供する。コーパスと計算計量文体学的手法のさらなる発展は、さらなるプライバシー問題を引き起こす可能性が高い。Gröndahl & Asokan (2020a) は、計量文体学の根底にある仮説（著者が不変で内容に依存しない「スタイル指紋」を持つ）の一般的な妥当性は不確かであるが、「非匿名化攻撃は現実のプライバシー上の懸念である」と述べている。
敵対的計量文体学と文体詐欺の実践に興味を持つ人々には、報復を避ける内部告発者、ジャーナリストや活動家、詐欺やデマの実行犯、偽レビューの著者、文学偽造者、捜査官から身元を隠す犯罪者、そして一般的に匿名性またはペンネームを望むすべての人が含まれる。著者、または著者に代わって行動するエージェントは、著者の特性（例：人種や性別）に関する文体の手がかりを削除し、その特性の知識が差別（例：アルゴリズムバイアス）に使用されないようにすることも試みる可能性がある。敵対的計量文体学の別の可能な用途は、自動生成されたテキストを人間が執筆したものとして偽装することである。
方法
模倣では、著者は自分のスタイルを別の著者のスタイルに合わせることで計量文体学を誤解させようとする。不完全な模倣（真の著者の独自の特性が模倣された著者の特性とともに現れる）は、敵対的計量文体学の使用の検出可能なシグナルとなり得る。模倣はスタイル転送システムを使用して自動的に実行できるが、通常、システムが学習するためにはターゲットスタイルの大規模なコーパスが必要である。
もう一つのアプローチは翻訳であり、ソーステキストの機械翻訳を使用して特徴的なスタイルを排除する。多くの場合、複数の翻訳ツールを順に使用して往復翻訳（ラウンドトリップ翻訳）を生成する。このような連鎖翻訳は、テキストが大幅に変更され、理解不能になることさえある。改善された翻訳ツールはこのリスクを軽減する。より単純な構造のテキストは、元の意味を失わずに機械翻訳しやすい場合がある。機械翻訳は、同じ言語を入力と出力とする自動スタイル転送による直接的な文体模倣または難読化にぼやけて融合する。低品質の翻訳ツールでは、著者は主要な翻訳エラーを手動で修正する必要がある一方で、文体特性を再導入する危険を避ける必要がある。Wang, Juola & Riddell (2022) は、Google翻訳によって導入された重大なエラーはまれであるが、複数の中間翻訳ではより一般的であることを発見した。ただし、ソーステキスト内の単純な短い文やスペルミスが出力にそのまま現れ、特定のシグナルを提供する可能性がある。連鎖翻訳は、文書内にその適用の特徴的な痕跡を残す可能性があり、これにより使用された中間言語と実行された翻訳ステップの数を再構築できる可能性がある。
難読化には、テキストのスタイルを意図的に変更し、何らかの指標によって他のテキストとの類似性を低減することが含まれる。これは、執筆時に意識的な変更によって行われるか、または対象となる指標からのフィードバックを入力として使用し、テキストが十分に難読化されたと判断されるまで改訂プロセスの一部として行われる。
自動ツールと研究
敵対的計量文体学のための半自動および完全自動ツールは、活発な研究分野である。そのようなツールの設計は、スタイルを不明瞭にする必要性と意味を保存する要件のバランスを取る必要がある。いくつかのアプローチは、特定の計量文体学分析、特に敵対的可能性を考慮していない分析を打ち負かすことが示されている。しかし、未知の将来の分析に対する安全性を確立することは依然として課題である。言い換えの忠実性は重要な問題であり、自動システムは文法的に正しいが元の意味を微妙に変更するテキストを生成する可能性がある。
Large language modelとGenerative AIの最近の進歩は、スタイル転送と言い換え生成の新しい可能性を開いた。これらのモデルは、コンテンツを保持しながら異なるスタイルでテキストを書き換えるために使用できるが、検出可能なアーティファクトのリスクも導入する。そのようなシステムをより堅牢で検出されにくくする方法についての研究が続けられている。
検出と対策
テキストが敵対的にスタイル変更されたかどうかを検出すること自体が難しい問題である。いくつかの研究では、翻訳エラーの存在や異常な語彙選択など、特定の方法によって残されたシグナルを特定している。しかし、計量文体学者がどの方法が使用されたか知らない場合、確実な検出は不可能かもしれない。これにより、テキストを匿名化しようとする者と著者を特定しようとする者の間の軍拡競争が生じる。
倫理的および法的考慮事項
敵対的計量文体学の使用は倫理的な疑問を提起する。プライバシーを保護し、言論の自由を可能にする一方で、詐欺や偽情報の拡散などの悪意のある目的にも使用される可能性がある。法的枠組みは管轄区域によって異なり、実践は一部の文脈で規制される可能性がある。多くのプライバシー強化技術と同様に、敵対的計量文体学の二重使用の性質は、進行中の議論の対象となっている。
関連項目
参考文献
- Brennan, M., & Greenstadt, R. (2009). Practical attacks against authorship recognition techniques.
- Brennan, M., Afroz, S., & Greenstadt, R. (2012). Adversarial stylometry: Circumventing authorship recognition to preserve privacy and anonymity.
- Gröndahl, T., & Asokan, N. (2020). Text analysis in adversarial settings.
- Kacmarcik, G., & Gamon, M. (2006). Obfuscating document stylometry to preserve author anonymity.
- Narayanan, A., et al. (2012). On the feasibility of internet-scale author identification.
- Rao, J. R., & Rohatgi, P. (2000). Can pseudonymity really guarantee privacy?
- Wang, Y., Juola, P., & Riddell, A. (2022). Translation as a means of authorship obfuscation.