Command Palette
Search for a command to run...
基于单选决策与迁移学习的机器阅读理解性能提升
基于单选决策与迁移学习的机器阅读理解性能提升
Yufan Jiang Shuangzhi Wu Jing Gong Yahui Cheng Peng Meng Weiliang Lin Zhibo Chen Mu li
摘要
多选型机器阅读理解(Multi-choice Machine Reading Comprehension, MMRC)旨在根据给定的篇章和问题,从一组选项中选出正确答案。由于MMRC任务具有特定性,因此难以直接将其他阅读理解任务(如SQuAD、Dream)的知识迁移到该任务中。本文提出一种简化方法:通过训练一个二分类模型来判断某一选项是否正确,从而将多选问题转化为单选问题,最终选择置信度最高的选项作为答案。我们基于ALBERT-xxlarge模型构建了该方法,并在RACE数据集上进行实验评估。训练过程中,采用AutoML策略自动优化模型参数。实验结果表明,将多选任务转化为单选任务后,性能表现更优。此外,通过从其他类型的阅读理解任务中迁移知识,我们的模型在单模型与集成模型两种设置下均取得了新的最先进(state-of-the-art)性能。