2달 전

다양한 영역에서 추론을 위한 단축 스택 문장 인코더

Yixin Nie; Mohit Bansal
다양한 영역에서 추론을 위한 단축 스택 문장 인코더
초록

우리는 다중 영역 자연어 추론을 위한 간단한 순차적 문장 인코더를 제시합니다. 이 인코더는 단축 연결과 단어 임베딩의 미세 조정(fine-tuning)을 사용하는 스택된 양방향 LSTM-RNNs에 기반합니다. 전체 감독 모델은 위의 인코더를 사용하여 두 개의 입력 문장을 두 개의 벡터로 인코딩하고, 그 다음 벡터 조합에 대한 분류기를 사용하여 이 두 문장 사이의 관계를 함의(entailment), 모순(contradiction), 또는 중립(neural)으로 라벨링합니다. 우리의 단축-스택 문장 인코더는 일치된 및 불일치된 다중 영역 자연어 추론에서 기존 인코더들보다 큰 개선을 이루었습니다(EMNLP RepEval 2017 공유 작업에서 최고의 비앙상블 단일 모델 결과(Nangia et al., 2017)). 또한, 원래 SNLI 데이터셋(Bowman et al., 2015)에서 새로운 최신 상태(state-of-the-art) 인코딩 결과를 달성했습니다.