L2B: Lernen zum Bootstrapping robuster Modelle zur Bekämpfung von Label-Rauschen

Tiefere neuronale Netze haben bei der Repräsentationslernung große Erfolge erzielt. Bei der Lernung mit verrauschten Etiketten (Label Noise Learning, LNL) neigen sie jedoch leicht zu Überanpassung und können sich schlecht auf neue Daten verallgemeinern. In diesem Artikel wird eine einfache und effektive Methode vorgestellt, die als „Learning to Bootstrap“ (L2B) bezeichnet wird und es Modellen ermöglicht, sich selbst durch ihre eigenen Vorhersagen zu „bootstrappen“, ohne negativ durch fehlerhafte Pseudo-Etiketten beeinflusst zu werden. Dies wird erreicht, indem die Gewichtung zwischen tatsächlich beobachteten und generierten Etiketten sowie zwischen verschiedenen Beispielen dynamisch durch Meta-Lernen angepasst wird. Im Gegensatz zu bestehenden Ansätzen zur Instanzgewichtung beruht der Kern unserer Methode auf einem neuen, vielseitigen Ziel, das eine implizite Neuetikettierung gleichzeitig ermöglicht und erhebliche Verbesserungen ohne zusätzlichen Aufwand erzielt.L2B bietet mehrere Vorteile gegenüber Baseline-Methoden. Es liefert robusteren Modellen, die weniger anfällig für die Auswirkungen verrauschter Etiketten sind, da der Bootstrapping-Prozess effektiver geleitet wird. Zudem nutzt es die wertvollen Informationen in verfälschten Instanzen besser aus, indem es sowohl die Gewichte von Instanzen als auch von Etiketten anpasst. Darüber hinaus ist L2B mit bestehenden LNL-Methoden kompatibel und erzielt wettbewerbsfähige Ergebnisse bei natürlichen und medizinischen Bildaufgaben, einschließlich Klassifikation und Segmentierung, sowohl unter synthetischem als auch unter realen Rauschbedingungen. Umfangreiche Experimente zeigen, dass unsere Methode die Herausforderungen verrauschter Etiketten effektiv mildert, häufig nur wenige bis keine Validierungsbeispiele erfordert und gut auf andere Aufgaben wie Bildsegmentierung generalisiert. Dies positioniert L2B nicht nur als robuster Ergänzung zu bestehenden LNL-Techniken, sondern unterstreicht auch ihre praktische Anwendbarkeit. Der Quellcode und die Modelle sind unter https://github.com/yuyinzhou/l2b verfügbar.