강화된 기억력 독자 모델을 이용한 기계 읽기 이해

본 논문에서는 기계 독해 이해 과제를 위한 강화된 기억력 리더(Reinforced Mnemonic Reader)를 소개합니다. 이 모델은 이전의 주의 메커니즘(Attentive Readers)을 두 가지 측면에서 개선합니다. 첫째, 시간적으로 다중 라운드 정렬 구조에 저장된 과거의 주의력을 직접 접근하여 현재의 주의력을 세밀하게 조정하는 재주의 메커니즘(Rattention Mechanism)을 제안합니다. 이를 통해 주의력 중복과 부족 문제를 피할 수 있습니다. 둘째, 표준 감독 학습 방법을 확장하기 위해 동적-중요도 강화 학습(Dynamic-Critical Reinforcement Learning)이라는 새로운 최적화 접근법을 도입합니다. 이 방법은 전통적인 강화 학습 알고리즘에서 발생하는 수렴 억제 문제를 해결하기 위해 더 적합한 답변을 예측하도록 항상 격려합니다. 스탠퍼드 질문 응답 데이터셋(SQuAD)에서 수행한 광범위한 실험 결과, 본 모델이 최신 연구 성과를 달성함을 보여주었습니다. 또한, 본 모델은 두 개의 적대적 SQuAD 데이터셋에서 Exact Match와 F1 지표 모두 6% 이상 우수한 성능을 나타냈습니다.