HyperAIHyperAI

Command Palette

Search for a command to run...

PAC-Bayes Meta-Lernen mit impliziten, auf die Aufgabe spezifischen Posteriors

Cuong Nguyen Thanh-Toan Do Gustavo Carneiro

Zusammenfassung

Wir stellen einen neuen und streng formulierten PAC-Bayes-Meta-Lernalgorithmus vor, der das Few-Shot-Lernen löst. Unser vorgeschlagener Ansatz erweitert den PAC-Bayes-Rahmenwerk von einer Einzelaufgaben-Situation auf den Meta-Lernkontext mehrerer Aufgaben, um eine obere Schranke für den Fehler auf beliebigen, auch bisher nicht gesehenen, Aufgaben und Stichproben zu gewährleisten. Zudem entwickeln wir einen generativen Ansatz zur Schätzung der Posterior-Verteilung der aufgabenspezifischen Modellparameter, der ausdrucksstärker ist als die übliche Annahme einer mehrdimensionalen Normalverteilung mit diagonaler Kovarianzmatrix. Wir zeigen, dass die mit unserem vorgeschlagenen Meta-Lernalgorithmus trainierten Modelle gut kalibriert und präzise sind und state-of-the-art-Ergebnisse sowohl in Bezug auf Kalibrierung als auch Klassifikation auf Few-Shot-Klassifikationsbenchmarks (mini-ImageNet und tiered-ImageNet) sowie auf Regressionsbenchmarks (multi-modale Aufgabenverteilungsregression) erzielen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
PAC-Bayes Meta-Lernen mit impliziten, auf die Aufgabe spezifischen Posteriors | Paper | HyperAI