12 mJ par Classe Apprentissage par Incremement de Classes en Temps Réel sur Dispositif pour Peu de Mémoires (Few-Shot)

Le Few-Shot Class-Incremental Learning (FSCIL) permet aux systèmes d’apprentissage automatique d’étendre leurs capacités d’inférence à de nouvelles classes à l’aide d’un nombre très restreint d’exemples étiquetés, sans oublier les classes précédemment apprises. Les approches classiques fondées sur la rétropropagation du gradient et leurs variantes s’avèrent souvent inadaptées aux systèmes à faible consommation d’énergie et contraints en mémoire, situés aux extrémités du réseau (extreme edge). Dans ce travail, nous introduisons le Online Few-Shot Class-Incremental Learning (O-FSCIL), basé sur un modèle léger composé d’un extracteur de caractéristiques préentraîné et méta-apprenti, ainsi que d’une mémoire explicite extensible stockant les prototypes des classes. L’architecture est préentraînée grâce à une nouvelle régularisation d’orthogonalité des caractéristiques et méta-apprentie à l’aide d’une fonction de perte à marges multiples. Lors de l’apprentissage d’une nouvelle classe, notre méthode étend la mémoire explicite en ajoutant de nouveaux prototypes de classes, tandis que le reste de l’architecture reste gelé. Cette approche permet d’apprendre des classes auparavant inconnues à partir d’un très petit nombre d’exemples, en une seule passe (d’où le terme « en ligne »). L’O-FSCIL atteint une précision moyenne de 68,62 % sur le benchmark FSCIL CIFAR100, réalisant ainsi des résultats de pointe. Conçu spécifiquement pour les plates-formes ultra-basses consommations, nous avons implémenté O-FSCIL sur le microcontrôleur GAP9 consommant 60 mW, démontrant ainsi des capacités d’apprentissage en ligne avec seulement 12 mJ par nouvelle classe.