11일 전

사실 기반 논리적 추론을 통한 머신 리딩 컴프리헨션

Siru Ouyang, Zhuosheng Zhang, Hai Zhao
사실 기반 논리적 추론을 통한 머신 리딩 컴프리헨션
초록

최근 몇 년 동안 기계에 추론 능력을 훈련시키는 데 대한 관심이 점점 증가하고 있으며, 이러한 추론 능력은 정확하고 명확하게 제시된 힌트 형태에 크게 의존한다. 기존 연구에서는 일반적으로 힌트를 엔티티 인식 지식(entity-aware knowledge) 형태로 모델링한다. 그러나 이러한 엔티티 인식 힌트는 주로 일반지식(commonsense)에 초점이 맞춰져 있어, 일시적 사실이나 사건에 대한 지식이 필요한 과제, 특히 독해 이해를 위한 논리적 추론 과제에는 부족함이 있다. 이 문제를 해결하기 위해 우리는 일반지식과 일시적 지식 힌트를 계층적으로 포괄하는 접근을 제안한다. 구체적으로, 문장의 핵심 구성 요소(예: 주어-동사-목적어로 구성된 '사실')를 추출함으로써 지식 단위의 일반적인 형식을 제안한다. 그 후, 이러한 사실 단위 위에 슈퍼그래프(supergraph)를 구축하여 문장 수준의 관계(사실 그룹 간의 관계)와 엔티티 수준의 상호작용(한 가지 사실 내의 개념 또는 행동)의 이점을 동시에 얻을 수 있도록 한다. 논리적 추론 벤치마크 및 대화 모델링 데이터셋에서의 실험 결과는 제안하는 방법이 기존 베이스라인을 상당히 향상시킴을 보이며, 다양한 기반 모델에 걸쳐 일반화 가능한 성능을 보임을 입증한다. 코드는 \url{https://github.com/ozyyshr/FocalReasoner}에서 제공된다.