담화 관계

담화 관계는 절, 문장 또는 더 큰 단위와 같은 텍스트의 두 개 이상의 세그먼트를 일관된 담화로 연결하는 의미적 또는 화용적 연결이다. 이러한 관계는 한 세그먼트의 의미가 다른 세그먼트에 어떻게 의존하거나 관련되는지를 설명하여, 독자나 청자가 텍스트를 고립된 문장이 아닌 통일된 전체로 이해할 수 있게 한다. 일반적인 예로는 원인, 대조, 정교화, 시간적 순서의 관계가 있다. 이 개념은 담화 분석, 텍스트 언어학, 전산 언어학 연구의 기본이며, 텍스트 요약, 기계 번역, 자연어 생성과 같은 작업의 기반이 된다.

담화 관계는 종종 암시적이어서 독자가 문맥에서 연결을 추론해야 하거나, "왜냐하면", "그러나", "예를 들어"와 같은 담화 표지나 연결어로 신호되는 명시적 관계일 수 있다. 형식 이론에서 이러한 관계는 일반적으로 구조화된 그래프 또는 트리로 표현되며, 노드는 텍스트 세그먼트이고 가장자리는 특정 관계 유형으로 레이블이 지정된다. 가장 영향력 있는 프레임워크는 1980년대 남가주 대학교 정보과학 연구소의 윌리엄 맨과 샌드라 톰슨이 개발한 수사 구조 이론(RST)이다. RST는 동기 부여, 증거, 양보를 포함한 20개 이상의 관계 분류 체계를 정의하며, 이론 및 전산 작업 모두에서 널리 채택되었다.

이론적 기초

담화 관계 연구는 여러 지적 전통에서 비롯된다. 언어학에서 1970년대 할리데이와 하산의 응집성 연구는 참조, 생략, 접속과 같은 문장을 묶는 문법적 및 어휘적 장치를 식별했다. 이후 폴 그라이스와 같은 철학자의 영향을 받은 형식 의미론과 화용론은 화자의 의도와 추론이 일관성 확립에서 차지하는 역할을 강조했다. 1990년대에는 보니 웨버와 아라빈드 조시와 같은 전산 언어학자들이 펜 담화 트리뱅크를 개발하여 월스트리트 저널 말뭉치에서 40,000개 이상의 담화 관계를 주석 처리했으며, 담화 연결어에 기반한 어휘 중심 접근 방식을 사용했다. 이 자원은 자동 담화 파서를 훈련하고 평가하기 위한 표준 벤치마크가 되었다.

또 다른 주요 이론적 기여는 2000년대 초 니콜라스 애셔와 알렉스 라스카리데스가 제안한 분절 담화 표상 이론(SDRT)이다. SDRT는 형식 논리 프레임워크 내에서 담화 관계를 모델링하여 모호성 해소와 한 관계가 다른 관계에 내포되는 경우와 같은 관계 간의 복잡한 상호작용 표현을 가능하게 한다. 이 이론은 전산 의미론과 대화 시스템 개발에 영향력을 발휘해 왔다.

전산적 접근

전산 언어학에서 담화 파싱은 텍스트의 담화 구조를 자동으로 식별하는 작업으로, 텍스트를 기본 담화 단위로 분할하고 그들 사이의 관계를 레이블링하는 것을 포함한다. 초기 시스템은 수작업으로 만든 규칙과 연결어 존재 및 통사적 패턴과 같은 얕은 특징에 의존했다. Machine learning 및 Neural network 모델의 등장으로 성능이 크게 향상되었다. 현대 접근 방식은 Transformer (architecture) 기반 아키텍처, 예를 들어 BERT 스타일 인코더를 사용하여 텍스트 세그먼트의 맥락적 표현을 학습하고 관계를 지도 방식으로 예측하며, RST 담화 트리뱅크와 펜 담화 트리뱅크와 같은 벤치마크 데이터 세트에서 종종 높은 정확도를 달성한다.

이러한 전산 모델은 많은 하위 응용 프로그램에 필수적이다. Large language model 시스템에서 담화 관계는 방대한 텍스트 말뭉치에 대한 사전 훈련 중에 암시적으로 학습되어 일관된 단락을 생성하고 주제 연속성을 유지할 수 있게 한다. 그러나 담화 관계의 명시적 모델링은 논증적 에세이 채점, 법률 문서 분석, 질문 응답과 같이 구조화된 추론이 필요한 작업에 여전히 가치가 있다. 예를 들어 Generative AI 시스템에서 담화 관계를 제어하면 생성된 텍스트의 논리적 흐름을 개선하여 주제 이탈이나 모순된 진술과 같은 문제를 줄일 수 있다.

응용 및 과제

담화 관계는 여러 영역에서 실용적인 응용이 있다. 자동 요약에서 정교화 또는 원인과 같은 관계를 식별하면 가장 중요한 정보를 추출하고 간결한 요약으로 압축하는 데 도움이 된다. 기계 번역에서 담화 관계를 언어 간에 보존하는 것은 자연스럽고 정확한 번역을 생성하는 데 중요하며, 특히 연결어 체계가 다른 언어의 경우 더욱 그렇다. 대화 시스템과 대화형 AI에서 담화 관계를 이해하면 시스템이 사용자의 의도를 추적하고 일관된 응답을 제공할 수 있으며, 이는 OpenAI 및 Anthropic과 같은 회사가 최신 모델에서 추구하는 능력이다.

진전에도 불구하고 몇 가지 과제가 남아 있다. 명시적 연결어가 없는 암시적 담화 관계는 최첨단 모델조차 식별하기 어려운 것으로 악명 높다. 담화 관계의 주석은 또한 주관적이며, 일부 관계 유형에서 주석자 간 일치도가 낮아 훈련과 평가를 복잡하게 만든다. 또한 담화 구조는 장르와 언어에 따라 달라지므로 모델이 다양한 관례에 적응해야 한다. 연구는 교차 언어 담화 파싱과 담화 정보를 Deep learning 모델에 더 원리적으로 통합하는 데 계속 초점을 맞추고 있다.

다른 분야와의 관계

담화 관계는 언어학 및 인지 과학의 다른 개념과 밀접하게 연결되어 있다. 화용론에서 이는 스퍼버와 윌슨의 관련성 이론과 같은 일관성 및 관련성 이론과 관련된다. 심리학에서는 읽기 이해의 일부로 연구되며, 담화 관계를 추론하는 능력은 숙련된 읽기의 핵심 구성 요소이다. Artificial intelligence에서 담화 관계는 Neural network 모델이 학습한 통계적 패턴을 보완할 수 있는 구조화된 지식의 한 형태이다. Melanie Mitchell 및 Joshua Tenenbaum과 같은 연구자들은 담화 관계를 포함한 명시적 기호 구조가 강력하고 해석 가능한 AI 시스템을 달성하는 데 필요할 수 있다고 주장했으며, 이는 순수 데이터 기반 접근 방식과 대조되는 관점이다.

담화 인식 AI 시스템의 개발은 Stanford AI Lab 및 MIT CSAIL과 같은 학술 연구소와 산업 연구 그룹의 기여로 활발한 연구 영역이다. 담화 관계를 Large language model 훈련 및 추론에 통합하는 것은 생성된 텍스트의 일관성과 신뢰성을 개선하기 위한 유망한 방향으로 간주되며, 특히 장문 콘텐츠와 복잡한 추론 작업에서 더욱 그렇다. 모델이 더 강력해짐에 따라 담화 구조의 명시적 표현은 AI 시스템이 효과적으로 의사소통하고 미묘한 인간 언어를 이해할 수 있도록 보장하는 데 점점 더 중요한 역할을 할 수 있다.

같이 보기

• Sequence-to-Sequence (Seq2Seq)
• Multi-Head Attention
• Reinforcement Learning from AI Feedback (RLAIF)
• Curriculum Learning

참고 문헌

Mann, W. C., & Thompson, S. A. (1988). Rhetorical Structure Theory: Toward a functional theory of text organization. Text, 8(3), 243-281.

Webber, B., & Joshi, A. (1998). Anchoring a lexicalized theory of discourse. In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics.

Asher, N., & Lascarides, A. (2003). Logics of Conversation. Cambridge University Press.