Die richtige Mannigfaltigkeit kartieren: Manifold Mixup für Few-Shot-Lernen

Few-Shot-Lernalgorithmen zielen darauf ab, Modellparameter zu erlernen, die in der Lage sind, sich an neue Klassen anzupassen, indem sie nur wenige beschriftete Beispiele verwenden. Eine kürzlich entwickelte Regularisierungstechnik – Manifold Mixup – konzentriert sich auf das Erlernen einer allgemeinen Darstellung, die gegenüber kleinen Veränderungen in der Datenverteilung robust ist. Da das Ziel des Few-Shot-Lernens eng mit dem robusten Lernen von Darstellungen verbunden ist, untersuchen wir Manifold Mixup in diesem Problemkontext. Selbstüberwachtes Lernen ist eine weitere Technik, die semantisch bedeutsame Merkmale lernt, indem es ausschließlich die inhärente Struktur der Daten verwendet. Diese Arbeit untersucht die Rolle des Lernens relevanter Merkmalsmanifolds für Few-Shot-Aufgaben unter Verwendung von selbstüberwachten und Regularisierungstechniken. Wir beobachten, dass die Regularisierung des durch selbstüberwachte Techniken bereicherten Merkmalsmanifolds mit Manifold Mixup die Leistung des Few-Shot-Lernens erheblich verbessert. Wir zeigen, dass unser vorgeschlagener Ansatz S2M2 (Self-Supervised Manifold Mixup) die aktuelle Standarde Genauigkeit auf Standard-Few-Shot-Datensätzen wie CIFAR-FS, CUB, mini-ImageNet und tiered-ImageNet um 3-8 % übertrifft. Durch umfangreiche Experimente demonstrieren wir, dass die mit unserem Ansatz gelernten Merkmale auf komplexe Few-Shot-Evaluationsaufgaben, cross-domain-Szenarien und sind gegenüber leichten Veränderungen in der Datenverteilung robust.