15일 전

일반 지식 질문에 대한 답변을 위한 맥락의 지식 그래프 융합

Yichong Xu, Chenguang Zhu, Ruochen Xu, Yang Liu, Michael Zeng, Xuedong Huang
일반 지식 질문에 대한 답변을 위한 맥락의 지식 그래프 융합
초록

일반적인 지식 질문 응답(QA)은 세계 사건에 대한 질문에 답하기 위해 모델이 일반적인 지식과 사실 지식을 이해해야 한다. 기존의 많은 방법들은 언어 모델링과 지식 그래프(KG)를 결합하는 방식을 사용한다. 그러나 지식 그래프는 풍부한 구조적 정보를 포함하고 있지만, 개념에 대한 더 정교한 이해를 위해 필요한 맥락 정보를 제공하지 못한다는 한계가 있다. 이는 특히 레이블이 부족한 데이터 상황에서 언어 모델링에 지식 그래프를 융합할 때 격차를 만들어낸다. 따라서 본 연구에서는 외부 엔티티 설명을 활용하여 지식 이해를 위한 맥락 정보를 제공하는 방안을 제안한다. 우리는 위키사전(Wiktionary)에서 관련 개념의 설명을 검색하여 사전 훈련된 언어 모델에 추가 입력으로 제공한다. 그 결과, 본 모델은 CommonsenseQA 데이터셋에서 최고 성능을 달성하였으며, OpenBookQA에서는 생성형 모델을 제외한 모든 모델 중 최고 성능을 기록하였다.

일반 지식 질문에 대한 답변을 위한 맥락의 지식 그래프 융합 | 최신 연구 논문 | HyperAI초신경