HyperAIHyperAI
vor 11 Tagen

Few-Shot Class-Incremental Learning durch Sampling mehrphasiger Aufgaben

Da-Wei Zhou, Han-Jia Ye, Liang Ma, Di Xie, Shiliang Pu, De-Chuan Zhan
Few-Shot Class-Incremental Learning durch Sampling mehrphasiger Aufgaben
Abstract

In unserer stetig sich verändernden Welt entstehen häufig neue Klassen, beispielsweise emerging Themen in sozialen Medien oder neue Produkttypen im E-Commerce. Ein Modell sollte in der Lage sein, neue Klassen zu erkennen, gleichzeitig aber die Unterscheidbarkeit gegenüber alten Klassen beizubehalten. Unter extremen Bedingungen stehen nur begrenzte neue Beispiele zur Verfügung, um das Modell inkrementell zu aktualisieren. Die Aufgabe, wenige neue Klassen ohne Vergessen alter Klassen zu erkennen, wird als Few-Shot Class-Incremental Learning (FSCIL) bezeichnet. In dieser Arbeit präsentieren wir ein neues Paradigma für FSCIL, basierend auf Meta-Lernen durch LearnIng Multi-phase Incremental Tasks (LIMIT), das künstliche FSCIL-Aufgaben aus dem Basisdatensatz synthetisiert. Das Datensformat dieser künstlichen Aufgaben ist mit dem der „echten“ inkrementellen Aufgaben konsistent, sodass wir durch Meta-Lernen einen generalisierbaren Merkmalsraum für bisher unbekannte Aufgaben aufbauen können. Darüber hinaus konstruiert LIMIT auch ein Kalibrierungsmodul auf Basis von Transformer, das die Klassifizierer für alte Klassen und die Prototypen für neue Klassen auf dieselbe Skala bringt und die semantische Lücke schließt. Das Kalibrierungsmodul adaptivisiert zudem die instanzspezifischen Embeddings mittels einer Set-to-Set-Funktion im Kontext. LIMIT adaptiert effizient an neue Klassen und verhindert gleichzeitig das Vergessen alter Klassen. Experimente an drei Benchmark-Datensätzen (CIFAR100, miniImageNet und CUB200) sowie am großskaligen Datensatz ImageNet ILSVRC2012 zeigen, dass LIMIT eine state-of-the-art-Leistung erreicht.

Few-Shot Class-Incremental Learning durch Sampling mehrphasiger Aufgaben | Neueste Forschungsarbeiten | HyperAI