FeTrIL: Feature Translation for Exemplar-Free Class-Incremental Learning

Beispielfreies klassen-inkrementelles Lernen ist aufgrund des negativen Einflusses der katastrophalen Vergessens sehr herausfordernd. Um sowohl für vergangene als auch für neue Klassen eine hohe Genauigkeit zu erzielen, ist ein ausgewogenes Verhältnis zwischen Stabilität und Plastizität des inkrementellen Prozesses erforderlich. Bestehende beispielfreie Methoden zur klassen-inkrementellen Lernung konzentrieren sich entweder auf eine sukzessive Feinabstimmung des Modells, was der Plastizität Vorrang gibt, oder auf die Fixierung des Merkmalsextrahierers nach dem initialen inkrementellen Zustand, was der Stabilität Vorrang gibt. Wir stellen eine Methode vor, die einen fixierten Merkmalsextrahierer und einen Pseudomerkmalsgenerator kombiniert, um das Gleichgewicht zwischen Stabilität und Plastizität zu verbessern. Der Generator nutzt eine einfache, aber effektive geometrische Transformation der Merkmale neuer Klassen, um Darstellungen vergangener Klassen zu erzeugen, die aus Pseudomerkmalen bestehen. Diese Merkmals-Transformation erfordert lediglich die Speicherung der Zentroid-Repräsentationen vergangener Klassen, um deren Pseudomerkmale zu generieren. Die tatsächlichen Merkmale neuer Klassen sowie die Pseudomerkmale vergangener Klassen werden in einen linearen Klassifikator eingespeist, der inkrementell trainiert wird, um alle Klassen voneinander zu unterscheiden. Der inkrementelle Prozess ist mit der vorgeschlagenen Methode deutlich schneller als bei gängigen Ansätzen, die das gesamte tiefe Modell aktualisieren. Experimente wurden an drei anspruchsvollen Datensätzen und unter verschiedenen inkrementellen Szenarien durchgeführt. Ein Vergleich mit zehn bestehenden Methoden zeigt, dass unsere Methode in den meisten Fällen die anderen Methoden übertrifft.