Modellunabhängige graphische Regularisierung für Few-Shot-Lernen

In vielen Domänen werden Beziehungen zwischen Kategorien in Wissensgraphen kodiert. In jüngster Zeit wurden vielversprechende Ergebnisse erzielt, indem Wissensgraphen als Zusatzinformation in schwierige Klassifikationsaufgaben mit stark begrenzten Daten eingesetzt wurden. Allerdings bestehen vorherige Modelle aus hochkomplexen Architekturen mit zahlreichen Teilkomponenten, die alle anscheinend die Leistung beeinflussen. In diesem Paper präsentieren wir eine umfassende empirische Studie zum graphenbasierten Few-Shot-Lernen. Wir führen einen Graph-Regularisierungsansatz ein, der ein tieferes Verständnis der Auswirkungen der Integration von Grapheninformation zwischen Labels ermöglicht. Unser vorgeschlagener Regularisierungsansatz ist weit verbreitet anwendbar und modellunabhängig und steigert die Leistung jedes Few-Shot-Lernmodells, einschließlich Fine-Tuning-, metrikbasierten und optimierungsbasierenden Meta-Lernansätzen. Unser Ansatz verbessert die Leistung starker Basismodelle um bis zu 2 % auf Mini-ImageNet und um 6,7 % auf ImageNet-FS und übertrifft damit die bisher besten graphenbasierten Methoden. Zusätzliche Analysen zeigen, dass graphenregulierende Modelle eine niedrigere Verlustfunktion für anspruchsvollere Aufgaben erzielen, wie beispielsweise solche mit weniger Shots und weniger informativen Support-Beispielen.