HyperAIHyperAI
vor 2 Monaten

CMVAE: Causale Meta-VAE für unüberwachtes Meta-Lernen

Guodong Qi; Huimin Yu
CMVAE: Causale Meta-VAE für unüberwachtes Meta-Lernen
Abstract

Das unüberwachte Meta-Lernen (Unsupervised Meta-Learning) strebt danach, Metawissen aus nicht gekennzeichneten Daten zu erlernen und sich schnell an neue Aufgaben anzupassen. Bestehende Ansätze können jedoch durch Kontextverzerrungen (z.B. Hintergrund) in den Trainingsdaten irreführt werden. In dieser Arbeit abstrahieren wir das Problem des unüberwachten Meta-Lernens in ein Strukturelles Kausales Modell (Structural Causal Model, SCM) und weisen darauf hin, dass solche Verzerrungen auf versteckte Störfaktoren (hidden confounders) zurückzuführen sind. Um diese Störfaktoren zu eliminieren, definieren wir die A-priori-Verteilungen als \textit{bedingt} unabhängig, lernen die Beziehungen zwischen ihnen und intervenieren mit kausaler Faktorisierung. Darüber hinaus schlagen wir das Causale Meta VAE (Causal Meta VAE, CMVAE) vor, das die A-priori-Verteilungen in den kausalen Raum kodiert und ihre Beziehungen gleichzeitig lernt, um die Downstream-Aufgabe der Few-Shot-Bildklassifizierung zu bewältigen. Die Ergebnisse auf Toy-Datensätzen und drei Benchmark-Datensätzen zeigen, dass unsere Methode die Kontextverzerrung entfernen kann und sie anderen state-of-the-art-Algorithmen für unüberwachtes Meta-Lernen wegen der Verzerrungsentfernung überlegen ist. Der Quellcode ist unter \url{https://github.com/GuodongQi/CMVAE} verfügbar.

CMVAE: Causale Meta-VAE für unüberwachtes Meta-Lernen | Neueste Forschungsarbeiten | HyperAI