SATS : Transfert d'auto-attention pour la segmentation sémantique continue

L'apprentissage continu pour segmenter de plus en plus de types de régions d'images est une capacité souhaitée pour de nombreux systèmes intelligents. Cependant, cette segmentation sémantique continue souffre du même problème d'oubli catastrophique que l'apprentissage par classification continue. Bien que plusieurs stratégies de distillation de connaissances initialement conçues pour la classification continue aient été bien adaptées à la segmentation sémantique continue, elles ne prennent en compte que le transfert de connaissances anciennes basé sur les sorties d'une ou plusieurs couches de réseaux entièrement convolutifs profonds. Contrairement aux solutions existantes, cette étude propose de transférer un nouveau type d'information pertinente pour la connaissance, à savoir les relations entre les éléments (par exemple, les pixels ou les petites régions locales) au sein de chaque image, ce qui permet de capturer à la fois des connaissances intra-classe et inter-classes. L'information sur les relations peut être obtenue efficacement à partir des cartes d'auto-attention dans un modèle de segmentation à l'architecture Transformer. Étant donné que les pixels appartenant à la même classe dans chaque image partagent souvent des propriétés visuelles similaires, un regroupement spécifique aux classes est appliqué pour fournir une information relationnelle plus efficace pour le transfert de connaissances. De nombreuses évaluations sur plusieurs benchmarks publics montrent que la méthode proposée de transfert d'auto-attention peut atténuer efficacement le problème d'oubli catastrophique, et sa combinaison flexible avec une ou plusieurs stratégies largement adoptées dépasse significativement les solutions actuelles.注：虽然您提到“符合韩语表达习惯”，但根据您的要求，我假设您希望的是符合法语的表达习惯。如果有任何误解，请告知。