非参数单峰约束在深度序数分类中的应用

我们提出了一种新的约束优化公式，用于深度序数分类，通过在所有相邻标签对上施加一组不等式约束来隐式地强制标签分布的单峰性。基于c个标签的(c-1)个约束条件，我们的模型是非参数化的，因此比现有的深度序数分类技术更加灵活。与这些方法不同的是，它不限制所学习的表示为所有标签上强加的单一特定参数模型（或惩罚）。因此，该模型能够在更大的解空间中进行训练，同时避免了随意的选择，并且可以扩展到大量标签的情况。它可以与任何标准分类损失函数和任何深度架构结合使用。为了应对随之而来的具有挑战性的优化问题，我们基于对数障碍方法的强大扩展解决了一系列无约束损失问题。这种方法有效地处理了竞争约束，并适应了深度网络的标准随机梯度下降（SGD），同时避免了计算成本高昂的拉格朗日对偶步骤，并显著优于惩罚方法。此外，我们提出了一种新的序数分类性能指标——侧序指数（Sides Order Index, SOI），作为衡量分布单峰性的代理指标。我们在多个基准公开数据集上的序数分类任务中进行了全面的评估和与现有最先进方法的比较，展示了我们方法在标签一致性、分类准确性和可扩展性方面的优势。重要的是，使用我们的模型强制标签一致性不会导致更高的分类错误率，而许多现有的序数分类方法则会增加错误率。我们还提供了可复现的PyTorch实现。(https://github.com/sbelharbi/unimodal-prob-deep-oc-free-distribution)