HyperAIHyperAI

Command Palette

Search for a command to run...

L2B: Lernen zum Bootstrapping robuster Modelle zur Bekämpfung von Label-Rauschen

Yuyin Zhou Xianhang Li Fengze Liu Qingyue Wei Xuxi Chen Lequan Yu Cihang Xie Matthew P. Lungren Lei Xing

Zusammenfassung

Tiefere neuronale Netze haben bei der Repräsentationslernung große Erfolge erzielt. Bei der Lernung mit verrauschten Etiketten (Label Noise Learning, LNL) neigen sie jedoch leicht zu Überanpassung und können sich schlecht auf neue Daten verallgemeinern. In diesem Artikel wird eine einfache und effektive Methode vorgestellt, die als „Learning to Bootstrap“ (L2B) bezeichnet wird und es Modellen ermöglicht, sich selbst durch ihre eigenen Vorhersagen zu „bootstrappen“, ohne negativ durch fehlerhafte Pseudo-Etiketten beeinflusst zu werden. Dies wird erreicht, indem die Gewichtung zwischen tatsächlich beobachteten und generierten Etiketten sowie zwischen verschiedenen Beispielen dynamisch durch Meta-Lernen angepasst wird. Im Gegensatz zu bestehenden Ansätzen zur Instanzgewichtung beruht der Kern unserer Methode auf einem neuen, vielseitigen Ziel, das eine implizite Neuetikettierung gleichzeitig ermöglicht und erhebliche Verbesserungen ohne zusätzlichen Aufwand erzielt.L2B bietet mehrere Vorteile gegenüber Baseline-Methoden. Es liefert robusteren Modellen, die weniger anfällig für die Auswirkungen verrauschter Etiketten sind, da der Bootstrapping-Prozess effektiver geleitet wird. Zudem nutzt es die wertvollen Informationen in verfälschten Instanzen besser aus, indem es sowohl die Gewichte von Instanzen als auch von Etiketten anpasst. Darüber hinaus ist L2B mit bestehenden LNL-Methoden kompatibel und erzielt wettbewerbsfähige Ergebnisse bei natürlichen und medizinischen Bildaufgaben, einschließlich Klassifikation und Segmentierung, sowohl unter synthetischem als auch unter realen Rauschbedingungen. Umfangreiche Experimente zeigen, dass unsere Methode die Herausforderungen verrauschter Etiketten effektiv mildert, häufig nur wenige bis keine Validierungsbeispiele erfordert und gut auf andere Aufgaben wie Bildsegmentierung generalisiert. Dies positioniert L2B nicht nur als robuster Ergänzung zu bestehenden LNL-Techniken, sondern unterstreicht auch ihre praktische Anwendbarkeit. Der Quellcode und die Modelle sind unter https://github.com/yuyinzhou/l2b verfügbar.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
L2B: Lernen zum Bootstrapping robuster Modelle zur Bekämpfung von Label-Rauschen | Paper | HyperAI