HyperAIHyperAI

Command Palette

Search for a command to run...

Bayesian Meta-Learning für die Few-Shot-Situation mittels tiefer Kerne

Massimiliano Patacchiola Jack Turner Elliot J. Crowley Michael O&#39 Boyle Amos Storkey

Zusammenfassung

Kürzlich wurden verschiedene maschinelle Lernmethoden vorgestellt, um die herausfordernde Few-Shot-Lern-Situation zu bewältigen, bei der aus einem kleinen, beschrifteten Datensatz zu einer spezifischen Aufgabe gelernt wird. Übliche Ansätze folgen dem Paradigma des Meta-Lernens: Lernen, wie man auf ein neues Problem lernt, basierend auf vorherigen Erfahrungen. Angesichts der Erkenntnis, dass Meta-Lernen die Implementierung von Lernen in einem mehrstufigen Modell darstellt, präsentieren wir eine bayessche Behandlung des Inner Loops des Meta-Lernens mittels tiefer Kerne. Dadurch können wir einen Kern lernen, der auf neue Aufgaben übertragbar ist; wir bezeichnen diesen Ansatz als Deep Kernel Transfer (DKT). Dieser Ansatz bietet mehrere Vorteile: Er ist einfach zu implementieren, benötigt lediglich einen einzigen Optimierer, ermöglicht die Quantifizierung von Unsicherheiten und erfordert keine Schätzung von aufgabe-spezifischen Parametern. Empirisch zeigen wir, dass DKT mehrere state-of-the-art-Algorithmen im Few-Shot-Klassifikationsbereich übertrifft und die derzeit beste Leistung bei der cross-domain-Adaptation und Regression erzielt. Wir schlussfolgern, dass komplexe Meta-Lern-Routinen durch ein einfacheres bayessches Modell ersetzt werden können, ohne dass die Genauigkeit verloren geht.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp