HyperAIHyperAI
il y a 10 jours

Meta-Softmax équilibrée pour la reconnaissance visuelle à longue queue

Jiawei Ren, Cunjun Yu, Shunan Sheng, Xiao Ma, Haiyu Zhao, Shuai Yi, Hongsheng Li
Meta-Softmax équilibrée pour la reconnaissance visuelle à longue queue
Résumé

Les classifieurs profonds ont remporté un grand succès dans la reconnaissance visuelle. Toutefois, les données du monde réel présentent naturellement une distribution longue-taillée, ce qui entraîne un désalignement entre les distributions d'apprentissage et de test. Dans cet article, nous montrons que la fonction Softmax, bien qu'employée dans la plupart des tâches de classification, fournit une estimation biaisée du gradient dans le cadre d'une distribution longue-taillée. Nous proposons alors Balanced Softmax, une extension élégante et non biaisée de la fonction Softmax, conçue pour s’adapter au décalage de distribution des étiquettes entre l’apprentissage et le test. Théoriquement, nous établissons une borne de généralisation pour la régression multiclasse basée sur Softmax, et démontrons que notre fonction de perte minimise effectivement cette borne. En outre, nous introduisons Balanced Meta-Softmax, qui utilise un échantillonneur méta complémentaire afin d’estimer le taux optimal d’échantillonnage par classe, permettant ainsi d’améliorer davantage l’apprentissage sous distribution longue-taillée. Nos expériences montrent que Balanced Meta-Softmax surpasser les solutions les plus avancées pour la classification à distribution longue-taillée, tant dans les tâches de reconnaissance visuelle que dans celles de segmentation d’instances.