Verkleinerung des Klassenraums für erhöhte Sicherheit im halbüberwachten Lernen

Semi-supervised Learning erlangt aufgrund seines Erfolgs bei der Kombination von ungeetiketteten Daten zunehmend Aufmerksamkeit. Um potenziell fehlerhafte Pseudolabels zu minimieren, setzen die meisten aktuellen Frameworks typischerweise einen festen Konfidenzschwellenwert an, um unsichere Proben zu entfernen. Dieser Ansatz gewährleistet hochwertige Pseudolabels, führt jedoch zu einer relativ geringen Ausnutzung der gesamten ungeetiketteten Datensammlung. In dieser Arbeit liegt unser zentrales Insight darin, dass unsichere Proben in sichere umgewandelt werden können, solange die Verwechslungsklassen der Top-1-Klasse erkannt und eliminiert werden. Ausgehend davon schlagen wir eine neuartige Methode vor, die als ShrinkMatch bezeichnet wird, um unsichere Proben zu lernen. Für jede unsichere Probe sucht sie adaptiv einen verkleinerten Klassenraum, der lediglich die ursprüngliche Top-1-Klasse sowie weniger wahrscheinliche Klassen enthält. Da die Verwechslungsklassen in diesem Raum eliminiert werden, kann die neu berechnete Top-1-Konfidenz den vorgegebenen Schwellenwert erfüllen. Anschließend wird eine Konsistenzregularisierung zwischen einem Paar stark und schwach transformierter Proben im verkleinerten Raum angewandt, um diskriminative Repräsentationen zu fördern. Darüber hinaus berücksichtigen wir die unterschiedliche Zuverlässigkeit zwischen unsicheren Proben sowie die schrittweise Verbesserung des Modells während des Trainings und entwerfen entsprechend zwei Neugewichtungsprinzipien für unsere unsichere Verlustfunktion. Unsere Methode zeigt beeindruckende Leistung auf etablierten Benchmarks. Der Quellcode ist unter https://github.com/LiheYoung/ShrinkMatch verfügbar.