17 天前

任意损失函数与模型的多互补无标签学习

Yuzhou Cao, Shuqi Liu, Yitian Xu
任意损失函数与模型的多互补无标签学习
摘要

最近提出了一种名为互补标签学习(complementary-label learning)的弱监督学习框架,其中每个样本仅配备一个互补标签,用以指明该样本不属于的某一类别。然而,现有的互补标签学习方法无法利用易于获取的无标签样本以及具有多个互补标签的样本,而这些样本实际上包含更丰富的信息。为克服上述局限性,本文提出了一种新型的多互补标签与无标签学习框架,该框架能够针对任意损失函数和模型,基于任意数量互补标签的样本以及无标签样本,实现分类风险的无偏估计。我们首先给出了基于多互补标签样本的分类风险无偏估计器,随后进一步通过将无标签样本引入风险函数,对估计器进行了优化。理论分析表明,所提方法的估计误差界达到了最优的参数收敛速率。最后,基于线性模型与深度模型的实验结果验证了所提方法的有效性。