EnAET: Ein selbsttrainiertes Framework für semi-supervised und supervised Learning mit Ensemble-Transformationen

Tiefere neuronale Netze wurden erfolgreich in zahlreichen realen Anwendungen eingesetzt. Allerdings beruhen diese Erfolge stark auf großen Mengen an gelabelten Daten, die kostspielig zu beschaffen sind. In jüngster Zeit wurden zahlreiche Methoden für halbüberwachtes Lernen vorgeschlagen, die beachtliche Leistungen erzielt haben. In dieser Studie stellen wir einen neuen EnAET-Framework vor, um bestehende halbüberwachte Methoden mit selbstüberwachten Informationen weiter zu verbessern. Soweit uns bekannt ist, basieren alle aktuellen halbüberwachten Ansätze auf den Konzepten der Vorhersagekonsistenz und -zuverlässigkeit. Wir sind die Ersten, die die Rolle von {\bf selbstüberwachten} Darstellungen im Kontext von {\bf halbüberwachtem} Lernen unter einer reichen Familie von Transformationen untersuchen. Dadurch kann unser Framework die selbstüberwachten Informationen als Regularisierungsterm integrieren, um {\it alle} bestehenden halbüberwachten Methoden weiter zu verbessern. In den Experimenten verwenden wir MixMatch, die derzeit beste Methode im Bereich halbüberwachtes Lernen, als Baseline, um den vorgeschlagenen EnAET-Framework zu testen. Auf verschiedenen Datensätzen setzen wir die gleichen Hyperparameter ein, was die Generalisierungsfähigkeit des EnAET-Frameworks erheblich verbessert. Die Experimente an verschiedenen Datensätzen zeigen, dass der vorgeschlagene EnAET-Framework die Leistung aktueller halbüberwachter Algorithmen deutlich steigert. Darüber hinaus kann dieses Framework auch das {\bf überwachte Lernen} signifikant verbessern, einschließlich äußerst anspruchsvoller Szenarien mit nur 10 Bildern pro Klasse. Der Quellcode und die Experimentaufzeichnungen sind unter \url{https://github.com/maple-research-lab/EnAET} verfügbar.