17일 전

지식 그래프 및 사전 훈련된 언어 모델을 활용한 대화형 추천 시스템을 위한 표현 학습

Zhangchi Qiu, Ye Tao, Shirui Pan, Alan Wee-Chung Liew
지식 그래프 및 사전 훈련된 언어 모델을 활용한 대화형 추천 시스템을 위한 표현 학습
초록

대화형 추천 시스템(CRS)은 자연어 상호작용과 대화 기록을 활용하여 사용자의 선호도를 추론하고 정확한 추천을 제공한다. 기존의 CRS는 대화 맥락과 배경 지식이 제한적이므로, 지식 그래프와 같은 외부 자원을 활용하여 맥락을 풍부하게 하고, 엔티티 간 상호관계를 기반으로 엔티티를 모델링한다. 그러나 이러한 기법들은 엔티티 내부에 내재된 풍부한 정보를 무시하는 경향이 있다. 이를 해결하기 위해 우리는 지식 기반 엔티티 표현 학습(KERL) 프레임워크를 제안한다. 이 프레임워크는 지식 그래프와 사전 학습된 언어 모델을 함께 활용하여 CRS에서 엔티티의 의미적 이해를 향상시킨다. KERL 프레임워크에서는 사전 학습된 언어 모델을 통해 엔티티의 텍스트 설명을 인코딩하고, 지식 그래프를 통해 해당 엔티티의 표현을 강화한다. 또한, 대화 내 엔티티의 시계열 정보를 효과적으로 포착하기 위해 위치 인코딩( positional encoding)을 도입한다. 강화된 엔티티 표현은 추천 구성 요소와 대화 구성 요소에 활용되며, 추천 구성 요소는 엔티티 표현과 맥락 표현을 융합하여 더 나은 의사결정을 지원하고, 대화 구성 요소는 응답 텍스트 내에서 엔티티 관련 유용한 정보를 생성한다. 본 연구를 지원하기 위해 일관된 엔티티 설명을 갖춘 고품질 지식 그래프인 위키 무비 지식 그래프(WikiMKG)를 구축하였다. 실험 결과, KERL은 추천 및 응답 생성 모두에서 최신 기술(SOTA) 수준의 성능을 달성하였다.