2 个月前

利用背景信息减少类别激活不确定性

H M Dipu Kabir
利用背景信息减少类别激活不确定性
摘要

多任务学习是一种流行的训练高性能神经网络的方法,可以提高模型的泛化能力。在本文中,我们提出了一种背景类,以较低的计算成本实现更好的泛化效果,从而帮助计算资源有限的研究人员和组织。我们还介绍了一种选择背景图像的方法,并讨论了潜在的未来改进方向。我们将该方法应用于多个数据集,在显著降低计算成本的同时实现了更好的泛化性能。通过分析训练模型的类激活映射(Class Activation Mappings, CAMs),我们观察到所提出的模型训练方法倾向于关注更大的整体图像。将视觉变换器与所提出的背景类结合使用,我们在CIFAR-10C、Caltech-101和CINIC-10数据集上取得了最先进的(State-of-the-Art, SOTA)性能。示例脚本可在以下GitHub仓库的`CAM'文件夹中获取:github.com/dipuk0506/UQ

利用背景信息减少类别激活不确定性 | 最新论文 | HyperAI超神经