凭借对复杂数据的强大表示能力，基于深度神经网络（DNNs）的方法已成为有序回归问题（ordinal regression）的最先进方法，该问题旨在将实例分类至有序类别中。然而，DNNs 无法捕捉不确定性，也难以提供概率性解释。相比之下，作为概率模型的高斯过程（Gaussian Processes, GPs）能够提供不确定性信息，但其在大规模数据集上存在可扩展性不足的问题。本文通过引入共轭与非共轭的有序似然函数，将传统高斯过程回归方法拓展至有序回归任务。在此基础上，提出一种在顶层集成高斯过程层的深度神经网络架构，采用随机梯度下降法对神经网络参数与高斯过程参数进行端到端联合训练。其中，有序似然函数中的参数作为神经网络参数进行学习，使得所提出的框架能够为训练集拟合出相应的似然函数，并对测试样本实现概率化预测。在三个真实世界基准数据集——图像美学评分、历史图像分级以及年龄分组估计——上的实验结果表明，该方法在平均绝对误差（Mean Absolute Error）指标上优于现有最先进的有序回归方法，并能为预测结果提供置信度信息。