2달 전

대형 언어 모델을 사용한 시계열 지식 그래프에서의 두 단계 생성형 질문 응답

Yifu Gao; Linbo Qiao; Zhigang Kan; Zhihua Wen; Yongquan He; Dongsheng Li
대형 언어 모델을 사용한 시계열 지식 그래프에서의 두 단계 생성형 질문 응답
초록

시간 지식 그래프 질문 응답(TKGQA)은 질문에 숨겨진 시간 제약 조건과 동적 구조화된 지식에서 찾고자 하는 답변 때문에 상당히 어려운 과제를 제시합니다. 대형 언어 모델(LLMs)은 구조화된 데이터에 대한 추론 능력에서 상당한 진전을 이뤘지만, TKGQA 작업에의 적용은 아직 상대적으로 탐구되지 않은 영역입니다. 본 논문에서는 먼저 새로운 생성형 시간 지식 그래프 질문 응답 프레임워크인 GenTKGQA를 제안합니다. 이 프레임워크는 두 단계를 통해 LLMs가 시간적인 질문을 응답하도록 안내합니다: 부분그래프 검색(Subgraph Retrieval) 및 답변 생성(Answer Generation). 첫 번째로, 우리는 추가 학습 없이 LLM의 내재적 지식을 활용하여 질문에서 시간 제약 조건과 구조적 연결성을 파악함으로써 시간적 및 구조적 차원에서 부분그래프 검색 범위를 좁힐 수 있습니다. 다음으로, 가상 지식 인디케이터를 설계하여 부분그래프의 그래프 신경망 신호와 LLM의 텍스트 표현을 깊게 융합할 수 있도록 하였습니다. 이는 오픈 소스 LLM이 명령 조정을 통해 검색된 사실들 사이의 시간 순서와 구조적 의존성을 깊이 이해하는 데 도움을 줍니다. 두 개의 널리 사용되는 데이터셋에 대한 실험 결과는 우리의 모델이 우수함을 입증하였습니다.