2 个月前

具有循环神经滤波器的卷积神经网络

Yi Yang
具有循环神经滤波器的卷积神经网络
摘要

我们介绍了一类利用递归神经网络(RNNs)作为卷积滤波器的卷积神经网络(CNNs)。通常情况下,卷积滤波器的实现方式是线性仿射变换后接一个非线性函数,这种方式无法充分考虑语言的组合性。因此,它限制了高阶滤波器在自然语言处理任务中的应用,而这些任务往往需要高阶滤波器。在这项工作中,我们使用递归神经网络来建模卷积滤波器,这种模型能够自然地捕捉语言的组合性和长程依赖关系。实验结果表明,配备递归神经滤波器(RNFs)的简单CNN架构在斯坦福情感树库和两个答案句子选择数据集上的表现与已发表的最佳结果相当。