2달 전

기계 독해에서 일반 지식의 명시적 활용

Chao Wang; Hui Jiang
기계 독해에서 일반 지식의 명시적 활용
초록

머신 리딩 컴프리헨션(MRC) 모델과 인간 사이의 차이를 줄이기 위해, 이 논문에서는 데이터에 대한 욕구와 노이즈에 대한 강건성 측면에서 이를 탐구합니다. 한편으로는, 우리는 WordNet을 사용하여 각 주어진 본문-질문 쌍에서 단어 간 의미적 연결성을 일반 지식으로 추출하는 데이터 풍부화 방법을 제안합니다. 다른 한편으로는, 위에서 추출한 일반 지식을 명시적으로 활용하여 주의 메커니즘을 지원하는 엔드투엔드 MRC 모델인 지식 보조 리더(Knowledge Aided Reader, KAR)를 제안합니다. 데이터 풍부화 방법에 기반하여 KAR는 최신 MRC 모델들과 유사한 성능을 보이며, 특히 노이즈에 대한 강건성이 현저히 뛰어납니다. 훈련 예제의 부분 집합(20%-80%)만 사용할 때에도 KAR는 최신 MRC 모델들보다 크게 우수한 성능을 보이고 여전히 합리적인 수준의 노이즈 강건성을 유지합니다.

기계 독해에서 일반 지식의 명시적 활용 | 최신 연구 논문 | HyperAI초신경