2 个月前

互补标签学习适用于任意损失函数和模型

Takashi Ishida; Gang Niu; Aditya Krishna Menon; Masashi Sugiyama
互补标签学习适用于任意损失函数和模型
摘要

与传统的分类范式中每个训练样本都赋予真实类别不同,互补标签学习仅使用带有互补标签的训练样本,这些标签仅指明该样本不属于的某一类。本文的目标是推导出一种新的互补标签学习框架,该框架包含一个无偏估计器,用于估计任意损失函数和模型下的分类风险——所有现有的方法均未能实现这一目标。这不仅对学习阶段有益,还使得在无需任何常规标记验证数据的情况下,可以通过交叉验证进行模型/超参数选择成为可能,同时适用于任何线性/非线性模型或凸/非凸损失函数。我们进一步通过非负校正和梯度上升技巧改进了风险估计器,并通过实验展示了其优越性。