2 个月前

用于机器阅读理解的随机答案网络

Xiaodong Liu; Yelong Shen; Kevin Duh; Jianfeng Gao
用于机器阅读理解的随机答案网络
摘要

我们提出了一种简单而稳健的随机答案网络(Stochastic Answer Network, SAN),该网络能够在机器阅读理解中模拟多步推理过程。与之前的工作如ReasoNet使用强化学习来确定推理步骤数量不同,SAN的独特之处在于在神经网络的答模块(即最终层)训练过程中引入了一种随机预测丢弃机制(stochastic prediction dropout)。实验结果表明,这一简单的技巧不仅提高了模型的鲁棒性,还在斯坦福问答数据集(Stanford Question Answering Dataset, SQuAD)、对抗性SQuAD以及微软机器阅读理解数据集(Microsoft MAchine Reading COmprehension Dataset, MS MARCO)上取得了与当前最先进方法相当的性能。