다단계 지식 기반 질의 응답 향상을 위한 중간 감독 신호 학습

다중 힙 지식 기반 질의 응답(Multi-hop Knowledge Base Question Answering, KBQA)은 질문에 포함된 엔티티로부터 지식 기반(KB) 내에서 다수의 힙을 거쳐야 하는 응답 엔티티를 찾는 것을 목표로 한다. 이 과제의 주요 과제는 중간 단계에서의 감독 신호 부족이다. 따라서 다중 힙 KBQA 알고리즘은 최종 응답을 통해만 피드백을 받을 수 있으며, 이는 학습 과정의 불안정성 또는 비효율성을 초래한다.이 문제를 해결하기 위해 우리는 다중 힙 KBQA 작업을 위한 새로운 티처-스튜던트 접근법을 제안한다. 본 접근법에서 스튜던트 네트워크는 질의에 대한 올바른 응답을 찾는 것을 목표로 하며, 티처 네트워크는 스튜던트 네트워크의 추론 능력을 향상시키기 위해 중간 단계의 감독 신호를 학습하려는 역할을 한다. 본 연구의 주요 혁신점은 티처 네트워크의 설계에 있다. 여기서 우리는 전방 및 후방 추론을 동시에 활용하여 중간 엔티티 분포의 학습을 강화한다. 양방향 추론을 고려함으로써 티처 네트워크는 더 신뢰할 수 있는 중간 단계 감독 신호를 생성할 수 있으며, 이는 허위 추론(의심스러운 추론) 문제를 완화하는 데 기여한다. 세 가지 벤치마크 데이터셋에서 실시한 광범위한 실험을 통해 제안한 방법이 KBQA 작업에서 효과적임을 입증하였다. 분석을 재현할 수 있는 코드는 https://github.com/RichardHGL/WSDM2021_NSM 에서 공개되어 있다.