ACE: Ally Complementary Experts für die Lösung der Long-Tailed Recognition in One-Shot

Einstufige Methoden zur Langschwanz-Recognition verbessern die Gesamtleistung auf eine „Schaukel“-ähnliche Weise, d. h., entweder wird die Genauigkeit der häufigen Klassen (Head) zugunsten einer besseren Klassifikation seltener Klassen (Tail) opfernd reduziert, oder die Genauigkeit der Head-Klassen wird weiter gesteigert, wobei jedoch die Tail-Klassen ignoriert werden. Bestehende Algorithmen umgehen diesen Kompromiss durch einen mehrstufigen Trainingsprozess: Vor-Training auf einem unbalancierten Datensatz gefolgt von Feinabstimmung auf einem ausgewogenen Datensatz. Obwohl diese Ansätze vielversprechende Ergebnisse erzielen, sind sie nicht nur empfindlich gegenüber der Generalisierbarkeit des vortrainierten Modells, sondern auch nicht leicht in andere Aufgaben des Computer-Vision-Systems wie Objektdetektion oder Segmentierung integrierbar, bei denen die alleinige Vor-Training von Klassifikatoren nicht anwendbar ist. In diesem Paper stellen wir ein einstufiges Langschwanz-Recognition-Schema namens ally complementary experts (ACE) vor, bei dem jeder Experte ein höchst kompetenter Spezialist für eine Teilmenge ist, die seine Ausbildung dominiert, und gleichzeitig komplementär zu anderen Experten in seltenen Kategorien ist, ohne durch Klassen beeinflusst zu werden, die er nie gesehen hat. Wir entwerfen einen verteilungsadaptiven Optimierer, um die Lerngeschwindigkeit jedes Experts anzupassen und Überanpassung zu vermeiden. Ohne zusätzliche Spezialfeatures übertrifft die einfache ACE-Implementierung (vanilla ACE) die derzeit beste einstufige Methode um 3–10 % auf den Datensätzen CIFAR10-LT, CIFAR100-LT, ImageNet-LT und iNaturalist. Zudem zeigt sich, dass ACE die erste Methode ist, die die „Schaukel“-Dilemma tatsächlich überwindet, indem sie gleichzeitig die Genauigkeit der häufigen und der seltenen Klassen in nur einer einzigen Trainingsphase verbessert. Der Quellcode und die trainierten Modelle sind unter https://github.com/jrcai/ACE verfügbar.