摘要
深度学习在自动文本评分（Automatic Text Scoring, ATS）任务中展现了巨大的潜力。本文介绍了一种新的神经架构，该架构通过辅助神经连贯性特征增强了基础神经网络模型。我们提出的新方法引入了一种新的\textsc{SkipFlow}机制，该机制在长短期记忆（Long Short-Term Memory, LSTM）网络读取过程中建模隐藏表示快照之间的关系。随后，多个快照之间的语义关系被用作预测的辅助特征。这带来了两个主要好处。首先，文章通常是由较长的序列组成，因此LSTM网络的记忆能力可能不足。隐式访问多个快照可以通过防止梯度消失来缓解这一问题，从而起到保护作用。\textsc{SkipFlow}机制的参数也充当了辅助内存的角色。其次，建模多个位置之间的关系使我们的模型能够学习代表和近似文本连贯性的特征。在我们的模型中，我们将这些特征称为\textit{神经连贯性}特征。总体而言，我们提出了一种统一的深度学习架构，该架构能够在端到端的过程中生成神经连贯性特征。我们的方法在基准ASAP数据集上展示了最先进的性能，不仅超越了基于特征工程的基线模型，还优于其他深度学习模型。