2 个月前

交互空间上的自然语言推理

Yichen Gong; Heng Luo; Jian Zhang
交互空间上的自然语言推理
摘要

自然语言推理(NLI)任务要求智能体确定自然语言前提与自然语言假设之间的逻辑关系。我们引入了交互推理网络(Interactive Inference Network, IIN),这是一种新型的神经网络架构,能够通过分层提取交互空间中的语义特征来实现对句子对的高层次理解。我们证明了一个交互张量(注意力权重)包含了解决自然语言推理所需的语义信息,并且一个更密集的交互张量包含更丰富的语义信息。该架构的一个实例——密集交互推理网络(Densely Interactive Inference Network, DIIN)在大规模NLI语料库及其类似的大规模NLI语料库上展示了最先进的性能。值得注意的是,DIIN在具有挑战性的多类型自然语言推理(Multi-Genre NLI, MultiNLI)数据集上相对于最强的已发表系统实现了超过20%的错误率降低。