16 天前

一种用于序数回归的约束型深度神经网络

{Yanzhu Liu, Chi Keong Goh, Adams Wai Kin Kong}
一种用于序数回归的约束型深度神经网络
摘要

序数回归是一种监督学习问题,旨在将实例分类到具有有序关系的类别中。其挑战在于如何自动提取能够同时表征类内信息与类间序数关系的高层特征。本文提出了一种针对序数回归问题的约束优化方法,该方法在实例间序数关系约束下最小化多类别情况下的负对数似然。数学上,该方法等价于一种带有成对正则项的无约束优化形式。为此,本文基于卷积神经网络(CNN)框架提出了一种实现方法,能够自动提取高层特征,并通过传统的反向传播算法学习最优解。所提出的成对约束使得该算法在小规模数据集上依然具有良好的性能,而所设计的高效实现方案则保证了其在大规模数据集上的可扩展性。在四个真实世界基准数据集上的实验结果表明,所提出的算法在性能上优于传统的深度学习方法以及其他基于手工特征的先进方法。

一种用于序数回归的约束型深度神经网络 | 最新论文 | HyperAI超神经