
摘要
在本文中,我们提出了一种基于句子编码的模型用于识别文本蕴含。我们的方法中,句子编码是一个两阶段的过程。首先,通过词级别的双向长短期记忆网络(biLSTM)进行平均池化,生成第一阶段的句子表示。其次,为了获得更好的表示,我们采用了注意力机制来替代同一句子上的平均池化。不同于使用目标句子来关注源句子中的词,我们利用句子的第一阶段表示来关注其自身出现的词,这种方法在本文中被称为“内注意力”(Inner-Attention)。在斯坦福自然语言推理(SNLI)语料库上进行的实验已经证明了“内注意力”机制的有效性。尽管参数数量较少,我们的模型仍然大幅超越了现有的最佳句子编码方法。