Expérience sombre pour l'apprentissage continu généralisé : une base simple et puissante

L’apprentissage continu a inspiré une grande diversité d’approches et de cadres d’évaluation ; toutefois, la majorité d’entre elles ignorent les propriétés d’un scénario réel, dans lequel le flux de données ne peut pas être structuré comme une séquence de tâches et où l’apprentissage hors ligne n’est pas viable. Nous nous orientons vers l’Apprentissage Continu Généralisé (GCL), dans lequel les frontières entre tâches s’estompent et les distributions de domaines et de classes évoluent de manière progressive ou soudaine. Nous abordons ce défi en combinant la répétition (rehearsal) avec la distillation de connaissances et la régularisation. Notre base simple, appelée Dark Experience Replay, aligne les logits du réseau sur l’ensemble de l’itération d’optimisation, favorisant ainsi une cohérence avec son passé. Grâce à une analyse approfondie menée sur des benchmarks standards ainsi qu’un nouveau cadre d’évaluation pour le GCL (MNIST-360), nous démontrons qu’une telle base apparemment simple surpasse les approches consolidées tout en exploitant efficacement des ressources limitées. Nous explorons également les capacités de généralisation de notre objectif, en montrant que sa régularisation est bénéfique au-delà de simples gains de performance.