Unsupervised Joint Retrieval Augmentation of Knowledge Graph and Textual Passage for Non-goal-oriented Dialogue Response Generation

Abstract

To generate information-related responses in dialogue systems, lots of studies have been focused on using only one form of knowledge source, such as a knowledge graph or textual passage. In this thesis, I propose a novel method for generating informative and contextual responses in non-goal-oriented dialogue by searching for and integrating two forms of knowledge in an unsupervised manner. The proposed method retrieves knowledge graphs and textual passages and then integrates each retrieval result by forcing the results to be contextually correlated for augmented generation. Experimental results and analyses show that reducing content inconsistencies between each retrieval result is of particular importance to improve response generation by adequately leveraging two forms of sufficient knowledge sources in the augmented generation process.

대화 시스템이 주제 정보와 관련된 응답을 생성하는 것을 목표로 하는 기존 연구들은 지식 그래프나 비정형 문단과 같이 한가지 형태의 지식 정보만을 응답 생성 과정에 활용하는 데 집중해왔다. 본 논문에선, 비 목표 지향 대화에서 정보적이고 문맥과 관련된 응답을 생성하기 위해 앞선 두 가지 형태의 지식 소스를 비지도 적인 방식으로 검색하고 통합하여 응답 생성 과정에서 두 가지 형식의 지식 정보를 동시에 고려하는 방법을 제시한다. 제시된 방법은 통합된 문장 인코더의 강력한 의미론적 표현 능력을 활용하여 지식 그래프와 비정형 문단의 지식소스를 각각 검색하고, 각 지식 형식의 검색 결과는 전체 대화 정보 및 내용 연관성을 고려하여 증강 생성 방식에 활용되기 위한 형태로 통합된다. 실험 결과와 그 분석을 통해서 제시한 방법이 두 가지 형태의 지식 소스가 가지는 특징을 적절히 반영하여 응답 생성을 개선할 수 있을 뿐 아니라, 검색된 두 지식 형태 사이의 내용 일관성을 유지하는 것이 증강 생성 결과를 개선하는 것에 있어 특히 중요하다는 사실을 보인다.