NP-Match: Wenn Neural Processes mit semi-supervised Learning zusammenkommen

Semi-supervised Learning (SSL) wurde in den letzten Jahren weitgehend untersucht und stellt eine effektive Methode dar, unbeschriftete Daten zu nutzen, um die Abhängigkeit von beschrifteten Daten zu verringern. In dieser Arbeit passen wir Neural Processes (NPs) der semi-supervised Bildklassifizierung an und entwickeln hierdurch eine neue Methode namens NP-Match. NP-Match eignet sich für diese Aufgabe aus zwei Gründen. Erstens vergleicht NP-Match Datenpunkte implizit bei der Vorhersage, wodurch die Vorhersage jedes unbeschrifteten Datenpunkts durch die beschrifteten Datenpunkte beeinflusst wird, die ihm ähnlich sind, was die Qualität der Pseudolabels verbessert. Zweitens ist NP-Match in der Lage, Unsicherheit zu schätzen, die als Werkzeug zur Auswahl von unbeschrifteten Proben mit zuverlässigen Pseudolabels dienen kann. Im Vergleich zu Unsicherheits-basierten SSL-Methoden, die mit Monte Carlo (MC) Dropout implementiert sind, schätzt NP-Match die Unsicherheit mit deutlich geringerem rechnerischem Aufwand, was sowohl im Trainings- als auch im Testphasenzeitverbrauch erhebliche Einsparungen ermöglicht. Wir haben umfangreiche Experimente auf vier öffentlichen Datensätzen durchgeführt, und NP-Match erreicht dabei entweder Ergebnisse auf dem Stand der Technik (SOTA) oder zeigt konkurrenzfähige Leistungen, was die Wirksamkeit von NP-Match und sein großes Potenzial für SSL unterstreicht.