TADAM: Aufgabenabhängige adaptive Metrik für verbessertes Few-Shot-Lernen

Few-Shot-Lernen ist für die Erstellung von Modellen, die sich aus wenigen Beispielen verallgemeinern können, von zentraler Bedeutung geworden. In dieser Arbeit identifizieren wir, dass Metrik-Scaling und Metrik-Aufgabenbedingung entscheidend sind, um die Leistungsfähigkeit von Few-Shot-Algorithmen zu verbessern. Unsere Analyse zeigt, dass einfaches Metrik-Scaling die Natur der Parameteraktualisierungen von Few-Shot-Algorithmen vollständig verändert. Das Metrik-Scaling führt bei bestimmten Metriken in der Klassifikationsaufgabe mini-Imagenet 5-Way 5-Shot zu Genauigkeitsverbesserungen von bis zu 14 %. Wir schlagen außerdem eine einfache und effektive Methode vor, um ein Lernmodul auf den Aufgabenbeispieldatensatz zu konditionieren, was das Erlernen eines aufgabenabhängigen metrischen Raums ermöglicht. Darüber hinaus entwickeln und testen wir empirisch ein praktisches End-to-End-Optimierungsverfahren basierend auf der Co-Training von Nebenaufgaben, um einen aufgabenabhängigen metrischen Raum zu lernen. Das resultierende Few-Shot-Lernmodell, das auf einem aufgabenabhängigen skalierten Metrik basiert, erreicht den aktuellen Stand der Technik (state of the art) auf mini-Imagenet. Wir bestätigen diese Ergebnisse anhand eines weiteren Few-Shot-Datensatzes, den wir in dieser Arbeit auf Basis von CIFAR100 einführen. Unser Code ist öffentlich verfügbar unter https://github.com/ElementAI/TADAM.