HyperAIHyperAI

Command Palette

Search for a command to run...

BaseTransformers: Aufmerksamkeit über Basis-Datenelemente für One-Shot-Lernen

Mayug Maniparambil Kevin McGuinness Noel O&#39 Connor

Zusammenfassung

Few-shot-Klassifikation zielt darauf ab, neue Kategorien zu erkennen, indem nur wenige Proben pro Kategorie zur Verfügung stehen. Die meisten aktuellen Few-shot-Methoden nutzen eine Basisdatenmenge, die reich an beschrifteten Beispielen ist, um einen Encoder zu trainieren, der zur Gewinnung von Repräsentationen der Support-Instanzen für neue Klassen herangezogen wird. Da die Testinstanzen einer Verteilung entstammen, die sich von der Basisverteilung unterscheidet, sind ihre Merkmalsrepräsentationen von schlechter Qualität, was die Leistung beeinträchtigt. In diesem Paper schlagen wir vor, die gut trainierten Merkmalsrepräsentationen der Basisdatenmenge zu nutzen, die am nächsten an einer gegebenen Support-Instanz liegen, um deren Repräsentation während der Meta-Testphase zu verbessern. Dazu präsentieren wir BaseTransformers, das auf die relevantesten Regionen des Merkmalsraums der Basisdatenmenge abzielt und die Repräsentationen der Support-Instanzen verbessert. Experimente an drei Benchmark-Datensätzen zeigen, dass unsere Methode für mehrere Backbones gut funktioniert und in der induktiven One-shot-Situation state-of-the-art-Ergebnisse erzielt. Der Quellcode ist unter github.com/mayug/BaseTransformers verfügbar.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp