GrapeQA: 질문-답변 성능을 향상시키기 위한 그래프 증강 및 프루닝

일반 지식 기반 질문-답변(QA) 기법은 사전 훈련된 언어 모델(LM)의 강력한 능력과 지식 그래프(KG)가 제공하는 추론 능력을 결합한다. 전형적인 접근 방식은 QA 쌍과 관련된 노드를 KG에서 수집하여 워킹 그래프(WG)를 구성한 후, 그래프 신경망(GNN)을 이용한 추론을 수행한다. 그러나 이 방법은 두 가지 주요 과제에 직면한다: (i) WG 내에서 QA 쌍의 모든 정보를 포괄적으로 포착하는 것이 어렵고, (ii) WG에 KG로부터 유관하지 않은 노드들이 포함되어 있어 잡음이 발생한다. 이러한 문제를 해결하기 위해, 우리는 워킹 그래프(WG)에 두 가지 단순한 개선을 도입한 GrapeQA를 제안한다. 첫째, 그래프 증강을 위한 주목할 만한 엔티티(Prominent Entities for Graph Augmentation)는 QA 쌍에서 관련 텍스트 조각을 식별하고, 해당 정보에 대응하는 LM의 잠재 표현을 WG에 추가함으로써 그래프의 정보량을 향상시킨다. 둘째, 맥락 인지 기반 노드 제거(Context-Aware Node Pruning)는 QA 쌍과 관련성이 낮은 노드를 제거함으로써 WG의 정밀도를 높인다. 제안한 방법은 OpenBookQA, CommonsenseQA, MedQA-USMLE 데이터셋에서 평가되었으며, 특히 LM + KG 기반 전조 기법(QA-GNN)에 비해 일관된 성능 향상을 보였고, OpenBookQA에서는 상당한 성능 향상을 기록하였다.