aNMM: 주의 기반 신경망 매칭 모델을 이용한 짧은 답변 텍스트 순위 매기기

특징 공학에 기반한 질문 응답 방법의 대안으로, 최근에는 질문과 답변의 의미 일치를 위해 컨벌루션 신경망(CNNs) 및 장단기 기억 모델(LSTMs)과 같은 딥러닝 접근법이 제안되었습니다. 그러나 좋은 결과를 얻기 위해서는 이러한 모델들이 단어 중복이나 BM25 점수와 같은 추가적인 특징들과 결합되어야 합니다. 이러한 결합 없이는, 이들 모델은 언어적 특징 공학에 기반한 방법보다 크게 떨어지는 성능을 보입니다. 본 논문에서는 짧은 답변 텍스트 순위 매기에 사용되는 주의력 기반 신경 일치 모델(aNMM)을 제안합니다. 우리는 위치 공유 가중 방식 대신 값 공유 가중 방식을 채택하여 다양한 일치 신호들을 결합하고, 질문 주의력 네트워크를 사용하여 질문 용어 중요도 학습을 통합합니다. 인기 있는 벤치마크인 TREC QA 데이터를 사용하여, 상대적으로 간단한 aNMM 모델이 질문 응답 작업에 사용된 다른 신경망 모델들보다 크게 우수한 성능을 보임을 입증합니다. 또한, 추가적인 특징들과 결합된 모델들과 비교해도 경쟁력을 갖음을 보여줍니다. aNMM가 추가적인 특징들과 결합될 때, 모든 기준모델들을 능가하는 성능을 보입니다.