Meta-Lernen probabilistischer Inferenz für Vorhersage

Dieses Papier stellt einen neuen Rahmen für daten-effizientes und vielseitiges Lernen vor. Insbesondere: 1) Wir entwickeln ML-PIP, ein allgemeines Framework für Meta-Lernen approximativer probabilistischer Inferenz zur Vorhersage. ML-PIP erweitert bestehende probabilistische Interpretationen des Meta-Lernens, um eine breite Klasse von Methoden abzudecken. 2) Wir führen VERSA ein, eine Instanz des Frameworks, die ein flexibles und vielseitiges Amortisierungsnetzwerk verwendet. Dieses Netzwerk nimmt Few-Shot-Lern-Datensätze als Eingabe entgegen, mit beliebiger Anzahl von Schüssen (shots), und gibt in einem einzigen Vorwärtsdurchgang eine Verteilung über taskspezifische Parameter aus. VERSA ersetzt die Optimierung zur Laufzeit durch Vorwärtsdurchgänge durch Inferenznetzwerke, was die Kosten der Inferenz amortisiert und das Bedürfnis nach zweiten Ableitungen während des Trainings beseitigt. 3) Wir evaluieren VERSA auf Benchmark-Datensätzen, bei denen die Methode neue Standarts setzt, beliebige Anzahlen von Schüssen verarbeitet und bei Klassifikationsaufgaben beliebige Anzahlen von Klassen sowohl während des Trainings als auch der Testphase handhabt. Die Stärke des Ansatzes wird dann anhand einer anspruchsvollen Few-Shot-ShapeNet-Sichtrekonstruktionsaufgabe demonstriert.