Frank-Wolfe régularisé pour les CRF denses : généralisation du champ moyen et au-delà

Nous introduisons l’algorithme régularisé Frank-Wolfe, une méthode générale et efficace pour l’inférence et l’apprentissage dans les champs aléatoires conditionnels denses (CRF). Cet algorithme optimise une relaxation continue non convexe du problème d’inférence CRF en utilisant une version standardisée de l’algorithme Frank-Wolfe avec des mises à jour approchées, équivalentes à la minimisation d’une fonction d’énergie régularisée. La méthode proposée constitue une généralisation des algorithmes existants tels que la méthode du champ moyen ou la procédure concave-convexe. Cette perspective offre non seulement une analyse unifiée de ces algorithmes, mais permet également une exploration aisée de différentes variantes susceptibles d’offrir de meilleures performances. Nous illustrons cela à travers nos résultats expérimentaux sur des jeux de données standard pour la segmentation sémantique, où plusieurs instanciations de notre algorithme régularisé Frank-Wolfe surpassent l’inférence par champ moyen, tant en tant que composant autonome qu’en tant que couche entraînable en boucle complète dans un réseau neuronal. Nous montrons également que les CRF denses, combinés à nos nouveaux algorithmes, permettent des améliorations significatives par rapport à des bases CNN puissantes.