2 个月前

损失函数熵正则化以实现多样的决策边界

Sue Sin Chong
损失函数熵正则化以实现多样的决策边界
摘要

是否可以在没有真实标签注释的情况下训练多个分类器进行有意义的众包,以生成更好的预测标签集?本文将修改对比学习目标,自动训练一个自补充集成模型,在CIFAR10和CIFAR100-20任务上产生最先进的预测结果。本文提出了一种简单的方法,通过修改单一的无监督分类管道,自动生成具有不同决策边界的神经网络集成,从而学习更广泛的类别特征集。损失函数熵正则化(LFER)是在预训练和对比学习损失函数中添加的正则化项。LFER是一种工具,用于修改无监督学习输出空间的熵状态,从而多样化神经网络决策边界的潜在表示。使用LFER训练的集成在靠近决策边界的样本上具有更高的成功预测准确性。LFER是一种有效的工具,可以扰动决策边界,并在对比学习阶段产生了超越现有最先进水平的分类器。实验表明,LFER可以生成准确率与现有最先进水平相当但具有不同潜在决策边界的集成模型。这使得我们能够对靠近决策边界的样本进行有意义的验证,促进近边界样本的正确分类。通过组合经过训练的神经网络集合中单个样本正确预测的概率,我们的方法可以通过去噪和确认正确的特征映射来改进单一分类器的表现。

损失函数熵正则化以实现多样的决策边界 | 最新论文 | HyperAI超神经