적대적 문체 분석 대응(Adversarial stylometry)은 저자의 신원이나 특성을 문체 분석이 알아내는 가능성을 줄이기 위해 글쓰기 스타일을 변경하는 관행이다. 이 작업은 저자 위장(authorship obfuscation) 또는 저자 익명화(authorship anonymisation)라고도 알려져 있다. 문체 분석은 익명 저자를 식별하거나 필명을 저자의 다른 신원과 연결할 수 있는 능력으로 인해 상당한 개인정보 보호 문제를 제기한다. 예를 들어, 이는 내부고발자, 활동가, 그리고 사기꾼과 사기범들에게 어려움을 초래한다. 머신러닝 기술과 텍스트 코퍼스가 발전함에 따라 개인정보 보호 위험은 더욱 커질 것으로 예상된다.
모든 적대적 문체 분석 대응은 원문 텍스트를 충실히 의역하여 의미는 그대로 유지하되 문체적 신호를 모호하게 만든다는 핵심 아이디어를 공유한다. 이러한 충실한 의역은 문체 분석 분류기에 대한 적대적 예시이다. 이를 위한 몇 가지 광범위한 접근 방식이 존재하며, 일부는 겹치기도 한다: 모방(imitation)은 저자의 스타일을 다른 사람의 스타일로 대체하는 것이고, 번역(translation)은 기계 번역을 적용하여 원문 텍스트의 특성적인 스타일을 제거하는 것을 기대하는 것이며, 난독화(obfuscation)는 텍스트의 스타일을 의도적으로 수정하여 저자 자신의 스타일과 유사하지 않게 만드는 것이다.
수동으로 스타일을 숨기는 것은 가능하지만 힘들다. 어떤 상황에서는 선호되거나 필요할 수 있다. 반자동 또는 완전 자동 도구는 저자를 도울 수 있다. 이 작업을 가장 잘 수행하는 방법과 그러한 도구의 설계는 여전히 열린 연구 질문이다. 일부 접근 방식은 특히 적대적 가능성을 고려하지 않은 특정 문체 분석을 무력화할 수 있는 것으로 입증되었지만, 알려지지 않은 분석에 직면했을 때 안전성을 확립하는 것은 문제가 된다. 의역의 충실성을 보장하는 것은 자동 도구에게 중요한 과제이다.
적대적 문체 분석 대응의 관행 자체가 감지 가능한지 여부는 불확실하다. 일부 연구는 특정 방법이 출력 텍스트에 신호를 생성한다는 것을 발견했지만, 어떤 방법이 사용되었는지 확신할 수 없는 문체 분석가가 이를 안정적으로 감지하지 못할 수도 있다.
역사
적대적 문체 분석 대응의 초기 연구인 Rao & Rohatgi (2000)는 기계 번역을 가능성으로 지목했지만, 당시 사용 가능한 번역기의 품질이 심각한 문제를 제기한다고 지적했다. Kacmarcik & Gamon (2006)도 또 다른 초기 연구이다. Brennan, Afroz & Greenstadt (2012)는 실제 텍스트에 대한 적대적 문체 분석 방법의 첫 번째 평가를 수행했다.
Brennan & Greenstadt (2009)는 문체 분석 방법을 평가하기 위해 특별히 적대적으로 작성된 텍스트의 첫 번째 코퍼스를 도입했다. 다른 코퍼스로는 국제 헤밍웨이 모방 대회(International Imitation Hemingway Competition), 가짜 포크너 콘테스트(Faux Faulkner contest), 그리고 장난 블로그인 다마스쿠스의 게이 소녀(A Gay Girl in Damascus)가 있다.
동기
Rao & Rohatgi (2000)는 짧은 무기명 문서(즉, 익명 게시물)는 문체 분석 식별 위험이 없지만, 적대적 문체 분석 대응을 실천하지 않은 필명 저자는 수천 단어의 코퍼스를 생산할 경우 취약할 수 있다고 제안한다. Narayanan et al. (2012)는 100,000명의 블로그 저자에 대한 대규모 비식별화(deanonymisation)를 시도했지만 결과는 엇갈렸다: 식별은 우연보다 훨씬 나았지만, 블로그와 저자를 정확히 일치시킨 경우는 5분의 1에 불과했다. 식별 정확도는 코퍼스에서 저자가 작성한 게시물 수에 따라 향상되었다. 저자가 식별되지 않더라도 그들의 일부 특성은 여전히 문체 분석을 통해 추론될 수 있으며, 문체 분석은 잠재적 저자 세트를 충분히 좁혀 다른 정보가 식별을 완성할 수 있게 할 수도 있다. 저자 특성(예: 성별 또는 나이)을 감지하는 것은 대규모의 개방된 후보 세트에서 저자를 식별하는 것보다 종종 더 간단하다.
현대 머신러닝 기술은 식별을 위한 강력한 도구를 제공한다. 코퍼스와 계산적 문체 분석 기술의 추가 개발은 더 많은 개인정보 보호 문제를 제기할 가능성이 높다. Gröndahl & Asokan (2020a)는 문체 분석의 기저 가설 - 저자가 불변의 내용 독립적인 '문체 지문'을 가지고 있다는 - 의 일반적 타당성은 불확실하지만 "비식별화 공격은 실제 개인정보 보호 문제"라고 말한다.
적대적 문체 분석 대응과 문체적 속임수를 실천하는 데 관심이 있는 사람들로는 보복을 피하려는 내부고발자; 언론인과 활동가; 사기와 장난을 저지르는 사람들; 가짜 리뷰 작성자; 문학 위조자; 조사자로부터 자신의 신원을 숨기려는 범죄자; 그리고 일반적으로 익명성이나 필명을 원하는 모든 사람을 포함한다. 저자 또는 저자를 대신하는 대리인은 저자 특성(예: 인종 또는 성별)에 대한 문체적 단서를 제거하여 그러한 특성에 대한 지식이 차별(예: 알고리즘 편향을 통한)에 사용되지 못하게 할 수도 있다. 적대적 문체 분석 대응의 또 다른 가능한 용도는 자동 생성된 텍스트를 인간이 작성한 것으로 위장하는 것이다.
방법
모방에서 저자는 다른 저자의 스타일에 맞추어 문체 분석을 속이려고 시도한다. 진짜 저자의 고유한 특성이 모방된 저자의 특성과 함께 나타나는 불완전한 모방은 적대적 문체 분석 대응 사용의 감지 가능한 신호가 될 수 있다. 모방은 스타일 전송 시스템으로 자동 수행될 수 있지만, 일반적으로 시스템이 학습할 수 있는 대상 스타일의 대규모 코퍼스가 필요하다.
또 다른 접근 방식은 번역이다. 이는 원문 텍스트의 특성적 스타일을 제거하기 위해 기계 번역을 사용하며, 종종 여러 번역기를 순차적으로 사용하여 왕복 번역(round-trip translation)을 생성한다. 이러한 연쇄 번역은 텍스트가 크게 변경되어 이해할 수 없을 정도가 될 수도 있다. 향상된 번역 도구는 이 위험을 줄인다. 더 단순하게 구조화된 텍스트는 원래 의미를 잃지 않고 기계 번역하기 더 쉬울 수 있다. 기계 번역은 동일한 언어를 입력과 출력으로 사용하는 자동 스타일 전송을 통해 달성되는 직접적인 문체 모방이나 난독화로 이어지기도 하며, 이는 '번역'으로 볼 수 있다. 저품질 번역 도구를 사용할 경우 저자는 문체적 특성을 다시 도입하는 위험을 피하면서 주요 번역 오류를 수동으로 수정해야 할 수 있다. Wang, Juola & Riddell (2022)는 Google 번역이 도입한 심각한 오류는 드물지만 여러 중간 번역에서는 더 흔하다는 것을 발견했다. 그러나 원문 텍스트의 간헐적인 단순하거나 짧은 문장과 철자 오류가 출력에 그대로 나타나 식별 신호를 제공할 수 있다. 연쇄 번역은 문서에 적용된 흔적을 남길 수 있으며, 이를 통해 사용된 중간 언어와 수행된 번역 단계 수를 재구성할 수 있다.
난독화는 일부 지표에 의해 텍스트와 다른 텍스트 간의 유사성을 줄이기 위해 텍스트의 스타일을 의도적으로 변경하는 것을 포함한다. 이는 작성 시 의식적인 수정으로 수행될 수 있거나, 텍스트가 충분히 난독화되었는지 결정하기 위한 입력으로 대상 지표의 피드백을 사용하는 수정 과정의 일부로 수행될 수 있다.
자동 도구 및 연구
적대적 문체 분석 대응을 위한 반자동 및 완전 자동 도구는 활발한 연구 분야이다. 그러한 도구의 설계는 스타일을 숨겨야 하는 필요성과 의미를 보존해야 하는 요구 사이의 균형을 맞춰야 한다. 일부 접근 방식은 특히 적대적 가능성을 고려하지 않은 특정 문체 분석을 무력화하는 것으로 입증되었다. 그러나 알려지지 않은 미래 분석에 대한 안전성을 확립하는 것은 여전히 과제로 남아 있다. 의역의 충실성은 중요한 문제이며, 자동 시스템은 문법적으로 올바르지만 원래 의미를 미묘하게 변경하는 텍스트를 생성할 수 있다.
최근 Large language model과 Generative AI의 발전은 스타일 전송과 의역 생성에 새로운 가능성을 열었다. 이러한 모델은 내용을 유지하면서 다른 스타일로 텍스트를 다시 쓸 수 있지만, 감지 가능한 인공물의 위험도 도입한다. 그러한 시스템을 더 강력하고 덜 감지 가능하게 만드는 방법에 대한 연구가 계속되고 있다.
감지 및 대응 수단
텍스트가 적대적으로 스타일화되었는지 감지하는 것 자체가 어려운 문제이다. 일부 연구는 번역 오류의 존재나 비정상적인 단어 선택과 같은 특정 방법이 남긴 신호를 확인했다. 그러나 문체 분석가가 어떤 방법이 사용되었는지 모른다면 안정적인 감지는 불가능할 수 있다. 이는 텍스트를 익명화하려는 사람들과 저자를 식별하려는 사람들 사이의 군비 경쟁을 만든다.
윤리적 및 법적 고려 사항
적대적 문체 분석 대응의 사용은 윤리적 질문을 제기한다. 이는 개인정보 보호와 표현의 자유를 보호할 수 있지만, 사기나 허위 정보 유포와 같은 악의적인 목적으로도 사용될 수 있다. 법적 체계는 관할권에 따라 다르며, 일부 맥락에서 이 관행은 규제될 수 있다. 많은 개인정보 보호 강화 기술과 마찬가지로, 적대적 문체 분석 대응의 이중 사용 특성은 지속적인 논쟁의 대상이 된다.
같이 보기
참고 문헌
- Brennan, M., & Greenstadt, R. (2009). Practical attacks against authorship recognition techniques.
- Brennan, M., Afroz, S., & Greenstadt, R. (2012). Adversarial stylometry: Circumventing authorship recognition to preserve privacy and anonymity.
- Gröndahl, T., & Asokan, N. (2020). Text analysis in adversarial settings.
- Kacmarcik, G., & Gamon, M. (2006). Obfuscating document stylometry to preserve author anonymity.
- Narayanan, A., et al. (2012). On the feasibility of internet-scale author identification.
- Rao, J. R., & Rohatgi, P. (2000). Can pseudonymity really guarantee privacy?
- Wang, Y., Juola, P., & Riddell, A. (2022). Translation as a means of authorship obfuscation.