HyperAIHyperAI

Command Palette

Search for a command to run...

12 mJ par Classe Apprentissage par Incremement de Classes en Temps Réel sur Dispositif pour Peu de Mémoires (Few-Shot)

Yoga Esa Wibowo Cristian Cioflan Thorir Mar Ingolfsson Michael Hersche Leo Zhao Abbas Rahimi Luca Benini

Résumé

Le Few-Shot Class-Incremental Learning (FSCIL) permet aux systèmes d’apprentissage automatique d’étendre leurs capacités d’inférence à de nouvelles classes à l’aide d’un nombre très restreint d’exemples étiquetés, sans oublier les classes précédemment apprises. Les approches classiques fondées sur la rétropropagation du gradient et leurs variantes s’avèrent souvent inadaptées aux systèmes à faible consommation d’énergie et contraints en mémoire, situés aux extrémités du réseau (extreme edge). Dans ce travail, nous introduisons le Online Few-Shot Class-Incremental Learning (O-FSCIL), basé sur un modèle léger composé d’un extracteur de caractéristiques préentraîné et méta-apprenti, ainsi que d’une mémoire explicite extensible stockant les prototypes des classes. L’architecture est préentraînée grâce à une nouvelle régularisation d’orthogonalité des caractéristiques et méta-apprentie à l’aide d’une fonction de perte à marges multiples. Lors de l’apprentissage d’une nouvelle classe, notre méthode étend la mémoire explicite en ajoutant de nouveaux prototypes de classes, tandis que le reste de l’architecture reste gelé. Cette approche permet d’apprendre des classes auparavant inconnues à partir d’un très petit nombre d’exemples, en une seule passe (d’où le terme « en ligne »). L’O-FSCIL atteint une précision moyenne de 68,62 % sur le benchmark FSCIL CIFAR100, réalisant ainsi des résultats de pointe. Conçu spécifiquement pour les plates-formes ultra-basses consommations, nous avons implémenté O-FSCIL sur le microcontrôleur GAP9 consommant 60 mW, démontrant ainsi des capacités d’apprentissage en ligne avec seulement 12 mJ par nouvelle classe.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp