초록
우리는 자연어 이해를 위한 메모리 강화 신경망 모델인 Neural Semantic Encoders (NSE)를 제시합니다. NSE는 새로운 메모리 업데이트 규칙을 갖추고 있으며, 시간이 지남에 따라 변화하는 가변 크기의 인코딩 메모리를 통해 입력 시퀀스의 이해를 유지합니다. 이 모델은 읽기, 구성, 쓰기 연산을 통해 메모리를 관리하며, 여러 개의 공유 메모리에 접근할 수 있습니다. 본 논문에서는 NSE의 효과성과 유연성을 다섯 가지 다른 자연어 처리 과제에서 검증하였습니다: 자연어 추론, 질문 응답, 문장 분류, 문서 감성 분석 및 기계 번역. 이들 과제에서 NSE는 공개된 벤치마크를 통해 최신 성능을 달성하였습니다. 예를 들어, 공유 메모리 모델은 신경 기계 번역에서 긍정적인 결과를 보였으며, 주의력 기반 베이스라인 모델보다 약 1.0 BLEU 점수를 향상시켰습니다.