HyperAIHyperAI

Command Palette

Search for a command to run...

SeqVAT: Virtuelle adversariale Ausbildung für semi-supervised Sequenzmarkierung

Luoxin Chen Weitong Ruan Xinyue Liu Jianhua Lu

Zusammenfassung

Virtual Adversarial Training (VAT) ist eine leistungsfähige Technik, um die Robustheit von Modellen sowohl in überwachten als auch in halbüberwachten Szenarien zu verbessern. Sie ist effektiv und kann problemlos auf zahlreiche Aufgaben der Bild- und Textklassifikation angewendet werden. Ihre Vorteile für Sequenzmarkierungsaufgaben wie die Namensentitätsenerkennung (NER) erwiesen sich jedoch bisher als weniger signifikant, hauptsächlich, weil die bisherigen Ansätze VAT nicht mit dem bedingten zufälligen Feld (CRF) kombinieren konnten. CRF kann die Genauigkeit von Sequenzmodellen erheblich steigern, indem es Einschränkungen für Label-Übergänge vorschreibt, wodurch es zu einem essenziellen Baustein in den meisten aktuellen Architekturen für hochleistungsfähige Sequenzmarkierungsmodelle wird. In diesem Paper stellen wir SeqVAT vor, eine Methode, die VAT nahtlos auf Sequenzmarkierungsmodelle mit CRF anwendet. Empirische Studien zeigen, dass SeqVAT nicht nur die Leistung bei der Sequenzmarkierung unter überwachten Bedingungen signifikant gegenüber Baselines verbessert, sondern auch state-of-the-art Ansätze unter halbüberwachten Bedingungen übertrifft.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp