Apprentissage par concentration de direction : amélioration de la cohérence en apprentissage automatique

L’un des défis bien connus dans les tâches de vision par ordinateur réside dans la diversité visuelle des images, qui peut entraîner un accord ou un désaccord entre les connaissances apprises et le contenu visuel réellement observé. Dans ce travail, nous définissons tout d’abord cet accord au cours d’un processus d’apprentissage de concepts comme la « congruence ». Formellement, étant donné une tâche particulière et un ensemble de données suffisamment volumineux, le problème de congruence apparaît lorsqu’un processus d’apprentissage présente des variations importantes des sémantiques spécifiques à la tâche dans les données d’entraînement. Nous proposons une méthode appelée Direction Concentration Learning (DCL) afin d’améliorer la congruence au cours de l’apprentissage, où une meilleure congruence influence le chemin de convergence pour qu’il soit moins circuitous. Les résultats expérimentaux montrent que la méthode DCL proposée se généralise aux modèles et optimisateurs de pointe, tout en améliorant les performances sur des tâches telles que la prédiction de saillance, l’apprentissage continu et la classification. En outre, elle contribue à atténuer le problème du « forgetting catastrophique » dans les tâches d’apprentissage continu. Le code source est disponible publiquement à l’adresse suivante : https://github.com/luoyan407/congruency.